희소 고유값 문제를 위한 절단 파워 메소드

본 논문은 대규모 고차원 데이터에서 “희소 고유벡터”를 찾는 문제, 즉 최대 k 개의 비영 원소만을 허용하는 주 고유벡터를 구하는 희소 고유값 문제를 다룬다. 이 문제는 (1) 비선형 ℓ₀‑제약으로 인한 비볼록성, (2) NP‑hard 특성 때문에 기존 최적화 기법으로는 정확한 해를 얻기 어렵다. 저자들은 이러한 난관을 극복하기 위해 전통적인 파워 이터레이션에 “절단(Truncate)” 연산을 결합한 **Truncated Power (TPower) 메소드**를 제안한다. 알고리즘은 다음과 같이 동작한다. 초기 희소 벡터 \(x^{(0)}\) 를 설정하고, 매 반복 단계에서 (a) 현재 벡터에 행렬 \(A\) 를 곱해 \(x' = A x^{(t-1)}\) 를 얻고, (b) \(x'\) 의 절대값이 큰 k 개 원소만을 남기고 나머지를 0 으로 만드는 절단 연산 \(T_{\text{truncate}}(x',F^{(t)})\) 를 수행한다. 여기서 \(F^{(t)}\) 는 상위 k 개 인덱스 집합이다. (c) 절단된 벡터를 정규화해 다음 반복의 \(x^{(t)}\) 로 사용한다. 이 과정을 수렴할 때까지 반복한다. 이때 핵심 이론적 기여는 **제한된 교란 오류** ρ(E,s) 를 도입한 점이다. 실제 관측 행렬 \(A = \bar A + E\) 에서 \(\bar A\) 는 희소 주성분을 가진 “깨끗한” 행렬, \(E\) 는 잡음이다. 전체 스펙트럴 노름 ρ(E) 가 크더라도, s(≈k) 차원의 희소 부분 행렬에 대한 스펙트럴 노름 ρ(E,s) 가 작다면 알고리즘은 정확히 복구할 수 있다. 이는 압축 센싱에서 사용되는 RIP 개념과 유사하다. 정리 1은 다음과 같은 조건을 제시한다. (i) \(\bar A\) 의 최대 고유값 λ가 단일이며, 두 번째 고유값과의 차이 Δλ>0 가 존재한다. (ii) 주 고유벡터 \(\bar x\) 가 k₀‑희소이며, k ≥ 4k₀ 인 경우 s = 2k + k₀ 로 정의한다. (iii) 제한된 교란 ρ(E,s) ≤ Δλ/2 를 만족하면, γ(s) = (λ−Δλ+ρ(E,s))/(λ−ρ(E,s)) < 1 이 되고, 수렴 계수 μ < 1 이 된다. 초기 벡터가 \(|x^{(0)T}\bar x| ≥ c(ρ(E,s)+\sqrt{k₀/k})\) 를 만족하면, 반복 횟수 t 에 대해 \