근사 커널 클러스터링: 다항시간 알고리즘과 UGC 기반 난이도 한계

본 논문은 머신러닝에서 널리 사용되는 커널 클러스터링 문제를 이론적으로 탐구한다. 입력으로는 평균이 0인 n×n 양의 반정치 행렬 A와, 비교 대상이 되는 k×k 양의 반정치 행렬 B가 주어진다. 목표는 A를 k개의 파티션 S₁,…,S_k 로 나누어, 각 블록의 합을 B와 내적했을 때 최대가 되도록 하는 것이다. 이는 수식 (2)에서 정의된 Clust(A|B) = max_{σ} Σ_{i,j} a_{ij} b_{σ(i)σ(j)} 로 표현된다. **알고리즘 설계** 저자들은 먼저 SDP 이완을 도입한다. A가 양의 반정치이므로, 변수들을 단위 구면 S^{n‑1}에 매핑하는 반정치 프로그램을 구성한다. 최적 SDP 해는 벡터 집합 {x₁,…,x_n}⊂S^{n‑1}을 제공한다. 라운딩 단계에서는 고정된 기준 벡터 v₁,…,v_k∈S^{k‑1}를 선택하고, 각 x_i를 가장 내적이 큰 v_{σ(i)}에 할당한다. 이때 발생하는 기대값을 분석하면, Σ a_{ij}⟨x_i,x_j⟩ ≥ α·Σ a_{ij}⟨v_{σ(i)},v_{σ(j)}⟩ 가 성립한다. 여기서 α는 라운딩에 의해 얻어지는 상수이다. - 일반적인 B에 대해 α = π·(1‑1/k) 를 보인다. - B가 중심화(∑_{i,j} b_{ij}=0)이고 구형(대각 원소가 1)인 경우, 보다 정밀한 분석을 통해 α = 8π/9·(1‑1/k) 를 얻는다. 이 부등식은 Theorem 1.1(식 6)으로 정리되며, k=3일 때는 8π/9·(2/3)=16π/27 가 정확히 최적임을 증명한다. **복잡도 하드니스** UGC(Unique Games Conjecture)를 가정하고, “dictatorship vs. low‑influence” 테스트를 설계한다. 테스트는 Boolean 함수의 1차 푸리에 계수 제곱합을 이용한 양의 반정치 이차형식이다. 두 극단(완전 dictatorial 함수와 모든 변수가 낮은 영향력을 갖는 함수) 사이의 기대값 차이가 바로 α와 연결된다. 이를 통해: - k=2(즉, B=I₂)인 경우 π²/2 가 하드니스 상수임을 재현한다. - k=3인 경우, Gaussian moment 최적화 문제를 풀어 C(3)=9/8·π 를 얻고, 1‑1/k·C(k)=16π/27 가 UGC‑hardness 한계임을 증명한다. 일반 k에 대해서는 C(k)≥2π·(1‑1/k) 를 보이며, “프로펠러(conical) 분할” 추측이 맞다면 C(k)=8π/9·(1‑1/k) 가 된다. **기하학적 문제와 ‘프로펠러 추측’** Gaussian measure γ_{k‑1} 하에서 R^{k‑1}을 k개의 가측 집합 A₁,…,A_k 로 분할한다. 각 집합의 평균 벡터 z_i = ∫_{A_i} x dγ_{k‑1}(x) 를 정의하고, 목표는 Σ_i ||z_i||² 를 최대화하는 것이다. 저자들은 이 최적값 C(k) 가 ‘simplicial conical partition’에서 달성된다고 증명한다. 특히 k=3에서는 평면을 120° 각도의 3개 원뿔으로 나누는 ‘프로펠러’가 최적임을 보인다. **연관 연구와 차별점** - 기존의 양의 반정치 Grothendieck 불평등은 π/2 혹은 π/4 같은 상수를 제공했지만, 여기서는 B의 구조에 따라 8π/9·(1‑1/k) 라는 새로운 상수를 도출한다. - Ragha Vendra의 일반 CSP에 대한 SDP‑hardness 프레임워크와 연결해, 커널 클러스터링이 그 특수 사례임을 보여준다. 그러나 저자들은 직접적인 라운딩과 기하학적 분석을 통해 구체적인 상수를 얻음으로써 이론적 깊이를 더한다. **실제 적용 가능성** 머신러닝에서 커널 PCA, HSIC, 계층적 클러스터링 등 다양한 커널 기반 방법은 대규모 데이터에 대해 효율적인 압축이 필요하다. 본 논문의 알고리즘은 n이 매우 클 때도 다항시간에 실행 가능하며, B가 항등 행렬일 경우 클러스터 내 상관관계를 최소 8π/9·(1‑1/k) 비율로 보존한다. 이는 실험적 성능을 보장하는 이론적 근거가 된다. 또한, 제시된 ‘프로펠러’ 기하학적 구조는 고차원 Gaussian 공간에서 최적 파티션을 설계하는 새로운 시각을 제공한다. **결론** 논문은 커널 클러스터링 문제에 대해 (1) 상수 계수의 다항시간 근사 알고리즘, (2) UGC 기반의 정확한 하드니스 한계, (3) Gaussian moment 최적화와 연결된 새로운 기하학적 추측을 제시한다. 특히 B=I_k인 경우 8π/9·(1‑1/k) 가 최적 근사 비율이라는 강력한 주장을 제시하고, k=3에 대해서는 이를 완전히 증명한다. 앞으로의 연구는 ‘프로펠러 추측’의 일반 k에 대한 증명과, 실제 데이터에 대한 실험적 검증이 남아 있다.