스펙트럴 클러스터링 완전 정복

이 논문은 스펙트럴 클러스터링에 대한 포괄적인 튜토리얼을 제공한다. 서론에서는 클러스터링이 다양한 과학 분야에서 기본적인 탐색 도구임을 강조하고, 전통적인 k‑means나 single‑linkage와 비교했을 때 스펙트럴 클러스터링이 갖는 직관적이면서도 강력한 장점을 소개한다. 2장에서는 데이터 포인트 간 유사도를 그래프 형태로 변환하는 방법을 상세히 설명한다. ε‑neighbourhood 그래프는 거리 임계값 ε 이하인 쌍을 연결하고, k‑nearest neighbour 그래프는 각 점의 k개의 가장 가까운 이웃을 연결한다. 두 경우 모두 무방향 그래프를 만들기 위해 대칭화 혹은 상호 이웃 조건을 적용한다. 완전 연결 그래프는 모든 쌍을 연결하되, 가우시안 커널 s(x_i,x_j)=exp(−‖x_i−x_j‖²/(2σ²))와 같은 가중치를 부여한다. 각 그래프는 로컬 구조를 어떻게 반영하느냐에 따라 이후 라플라시안 스펙트럼에 영향을 미치며, 논문은 이 선택이 아직 이론적으로 완전히 해명되지 않았다고 언급한다. 3장에서는 라플라시안 행렬의 정의와 핵심 성질을 제시한다. 비정규 라플라시안 L = D − W는 대칭이며 양의 준정부호이고, 0 고유값의 고유벡터는 상수 벡터이다. 연결 성분의 수와 0 고유값의 다중도는 일치한다는 정리를 증명한다. 정규 라플라시안 L_sym과 L_rw는 각각 L_sym = I − D^{−1/2} W D^{−1/2}, L_rw = I − D^{−1} W 로 정의되며, 두 행렬은 서로 고유값·고유벡터 변환 관계를 가진다. 특히 L_rw는 마코프 체인의 전이 행렬과 직접 연결돼 랜덤 워크 해석을 가능하게 한다. 또한, 정규 라플라시안도 양의 준정부호이며 0 고유값의 다중도는 연결 성분 수와 동일함을 보인다. 4장에서는 실제 알고리즘을 제시한다. (1) 비정규 스펙트럴 클러스터링은 L의 가장 작은 k개의 고유벡터를 구해 행별로 k‑차원 좌표를 만든 뒤, k‑means로 군집한다. (2) Shi‑Malik(2000) 방식은 일반화된 고유문제 Lu = λDu의 해를 사용해 L_rw의 고유벡터를 얻으며, 이는 최소 N‑cut을 근사한다. (3) Ng‑Jordan‑Weiss(2002) 방식은 L_sym의 고유벡터를 구한 뒤, 각 행을 L2‑노름으로 정규화하고 k‑means를 적용한다. 정규화 단계는 고유벡터의 스케일 차이를 보정해 클러스터 경계가 데이터 밀도에 덜 민감하도록 만든다. 5~7장에서는 세 가지 이론적 해석을 제공한다. 5장은 그래프 컷 관점으로, 라플라시안 고유벡터가 최소 컷(특히 RatioCut, Ncut) 문제의 근사 해임을 증명한다. 6장은 랜덤 워크 관점으로, L_rw가 마코프 전이 행렬이므로 고유벡터가 장기 체류 확률과 연결되고, 이를 통해 클러스터가 높은 내부 전이 확률을 갖는 영역으로 해석한다. 7장은 섭동 이론 관점으로, 이상적인 블록 구조에 작은 잡음이 추가된 경우 라플라시안 스펙트럼이 섭동에 대해 안정적이며, 고유벡터가 원래 블록 구조를 잘 복원한다는 결과를 제시한다. 8장에서는 실무적인 고려사항을 논의한다. 그래프 구축 시 희소 행렬 저장, k‑nearest neighbour 검색을 위한 KD‑tree 혹은 ball‑tree, 가우시안 커널 파라미터 σ 선택 방법, 그리고 그래프가 너무 조밀하거나 희소할 경우 발생하는 문제점을 다룬다. 라플라시안 고유값 계산은 대규모 데이터에 대해 Lanczos 알고리즘이나 ARPACK을 이용한 부분 공간 방법을 권장한다. 고유벡터 정규화, k‑means 초기화(다중 실행 혹은 k‑means++), 그리고 eigengap heuristic을 통한 클러스터 수 k 선택 방법도 상세히 설명한다. 또한, Nyström 근사, 랜덤 샘플링 기반 스펙트럼 추정, 그리고 병렬/GPU 구현을 통한 확장 가능성도 제시한다. 9장에서는 기존 연구와 확장 방향을 정리한다. 스펙트럴 클러스터링의 변형으로 다중 스케일 그래프, 비대칭 유사도 처리, 반감성(semisupervised) 학습과의 결합, 그리고 딥러닝 기반 임베딩과의 하이브리드 방법 등을 언급한다. 마지막으로, 스펙트럴 클러스터링이 강력하지만 파라미터 민감도, 계산 복잡도, 그리고 고유벡터의 불안정성 등 한계가 있음을 인정하고, 향후 연구 과제로 이들을 완화하는 알고리즘 개발과 이론적 분석을 제시한다.