고차 PCA와 지역 최적점을 이용한 서브스페이스 정리 및 k‑서브스페이스 정라 학습

이 논문은 고차 차원 데이터에서 “관련 서브스페이스”와 “무관한 잡음 서브스페이스”를 구분하고, 이를 이용해 라벨링 함수가 해당 관련 서브스페이스에만 의존하는 경우를 효율적으로 학습하는 방법을 제시한다. **1. 배경 및 문제 정의** - ICA는 데이터 y = A x 를 통해 독립적인 1차원 성분 x_i 를 복원하는 방법으로, 공분산 행렬(2차 모멘트)만으로는 충분히 구분되지 않을 때 고차 모멘트를 활용한다. - 본 연구는 ICA를 일반화하여, 전체 n 차원 공간을 두 개의 직교 서브스페이스 V (차원 k)와 W (=V⊥, 차원 n‑k) 로 나누고, 각각 독립적인 분포 F_V, F_W 를 갖는 경우를 다룬다. - 목표는 (i) 주어진 샘플로부터 F = F_V·F_W 를 **분해**하여 V와 W를 찾는 것 (Factoring Distributions), (ii) 라벨 ℓ(x)=ℓ(π_V(x)) 를 학습하는 k‑subspace junta 문제를 해결하는 것이다. **2. 핵심 개념 – 모멘트 구별 가능성** - m차까지의 모멘트 텐서 M_m 를 이용해 분포와 표준 가우시안 Γ_n 사이의 차이를 d_m(F,Γ) 로 정의한다. - (m,η)-moment-distinguishable: 모든 단위벡터 u에 대해, 어느 차수 j≤m에서든 E_F