정규화 직교기저함수를 이용한 볼테라 커널 식별

**1. 서론** 볼테라 시리즈는 비선형 동적 시스템을 비모수적으로 표현할 수 있는 강력한 도구이지만, 메모리 길이와 차수가 증가함에 따라 파라미터 수가 급증하고, 잡음이 있는 유한 데이터에서는 추정 분산이 크게 늘어난다. 기존 연구에서는 FIR 기반 베이지안 정규화나 저차원 기저함수 전개를 이용해 차원을 축소하려 했지만, 고차 커널에 대한 효율적인 방법은 부족했다. **2. 볼테라 커널 식별 문제 정의** 시스템은 인과적·시간불변·페이딩 메모리를 갖는다고 가정하고, (1)식으로 볼테라 시리즈를 전개한다. 각 차수 m의 커널 h_m(·)는 n_m 길이의 다차원 하이퍼표면이며, LS(최소제곱) 방식으로 파라미터 θ를 추정한다. 하지만 파라미터 수가 N(데이터 길이)보다 클 경우 LS 해는 과적합 위험이 있다. **3. 직교기저함수 전개** 라가레(Laguerre)와 2‑parameter 카우츠(Kautz) 기저함수를 선택한다. 라가레는 실수 극점 a∈(−1,1)만 필요하고, 카우츠는 복소극점 쌍(b,c)∈(−1,1)²를 사용해 진동 시스템을 효율적으로 표현한다. 각 차수 m에 대해 (6)식으로 커널을 기저함수 곱의 선형 결합으로 나타내고, 전개 계수 α_m을 새로운 ‘기저함수 커널’로 본다. **4. 베이지안 정규화** 정규화 최소제곱(RLS) 문제를 (9)식으로 정의하고, 정규화 행렬 P를 TC(Tuned/Correlated) 구조로 만든다. 1차 커널은 기존 FIR 정규화와 동일하게 적용하고, 다차원 커널은 m개의 정규화 방향(v₁,…,v_m)을 정의해 각 방향마다 TC 행렬을 구성한 뒤 원소별 곱으로 전체 공분산을 만든다(15식). 하이퍼파라미터 η(β,λ 등)와 잡음 분산 σ²는 주변가능도 최대화(11식)로 추정한다. **5. 기저함수 파라미터의 분리 가능한 최적화** 전개 계수 α에 정규화를 적용하려면 기저함수 극점도 동시에 최적화해야 한다. 직접 최적화는 비볼록성 때문에 비현실적이므로, 저자들은 다음 알고리즘을 제안한다. 1) 초기 LS 추정으로 모든 h_m을 얻는다. 2) 각 h_m에 대해 라가레는 폐쇄형 해, 카우츠는 b를 격자 탐색 후 최적 c를 계산해 최적 극점을 구한다. 3) 해당 극점으로 다시 LS 추정해 α_m을 얻고, α_m을 역변환해 새로운 h_m을 만든다. 4) 2‑3 과정을 수렴할 때까지 반복한다. 이 과정은 기저함수 파라미터와 정규화 하이퍼파라미터를 효과적으로 분리해 탐색 공간을 크게 축소한다. **6. 수치 시뮬레이션** Monte‑Carlo 실험을 통해 네 종류의 Wiener 시스템을 평가했다. - Sys2a: 거의 임계감쇠, - Sys2b: 낮은 감쇠, - Sys3: 3차 비선형, - Sys4: 4차 비선형. 각 시스템에 대해 라가레와 카우츠 기반 정규화 방법을 비교했으며, 정규화된 기저함수 방법이 평균 제곱 오차와 표준편차 모두에서 기존 FIR 정규화, 비정규화 기저함수, 그리고 직접 고차 볼테라 LS 추정보다 우수했다. 특히 고차(3,4차) 시스템에서 기저함수 전개의 압축 효과가 두드러져, 동일 메모리 길이에서도 더 정확한 모델을 얻었다. **7. 결론** 본 연구는 볼테라 커널을 직접 추정하는 대신, 직교기저함수 전개와 베이지안 정규화를 결합해 파라미터 차원의 저주를 완화한다. 분리 가능한 최적화 알고리즘을 통해 기저함수 극점과 정규화 하이퍼파라미터를 효율적으로 튜닝함으로써, 4차까지의 비선형 시스템에 대해 실용적인 정확도와 모델 복잡도 사이의 균형을 달성했다. 향후 연구에서는 비선형 시스템의 실시간 식별 및 비정상 데이터에 대한 확장 가능성을 탐색할 수 있다.