선형 에코 상태 네트워크를 위한 대각화 기반 최적화

본 논문은 선형 Echo State Network(ESN)의 핵심 병목인 재귀 상태 업데이트 연산을 대각화 기반으로 재구성함으로써 계산 복잡도를 획기적으로 낮추는 방법론을 제시한다. 먼저, 선형 ESN의 기본 수식은 r(t) = r(t‑1)W + u(t)W_in + y(t‑1)W_fb 로 정의되며, 여기서 W∈ℝ^{N×N}는 고정된 재귀 가중치 행렬이다. 기존 구현에서는 매 타임스텝마다 W와 상태 벡터 r(t‑1) 사이의 행렬‑벡터 곱을 수행해야 하므로, 비희소 경우 O(N²) 연산이 필요하고, 이는 N이 커질수록 실시간 처리에 큰 제약이 된다. 논문은 W가 대각화 가능하다는 가정 하에 W = P Λ P⁻¹ (P는 고유벡터 행렬, Λ는 대각 고유값 행렬) 로 분해하고, 상태를 새로운 좌표계