블록 모델을 위한 새로운 반정밀도 프로그래밍 접근법

본 논문은 확률적 블록 모델(SBM)을 이용한 커뮤니티 탐지 문제를 다루며, 특히 최대우도 추정(MLE)의 계산적 난이도를 극복하기 위한 새로운 반정밀도 프로그래밍(SDP) 완화 기법을 제안한다. 1. **문제 설정 및 기존 접근법** SBM은 n개의 노드가 K개의 커뮤니티에 속하고, 각 커뮤니티 쌍 (k, r)마다 연결 확률 ψₖᵣ을 갖는 확률 그래프 모델이다. MLE는 관측된 인접 행렬 A에 대해 Z(노드‑커뮤니티 할당 행렬)와 ψ를 동시에 최적화하지만, Z에 대한 조합적 탐색이 NP‑hard이다. 기존에는 변분 추정, MCMC, 베이지안 방법, 스펙트럴 클러스터링 등이 사용되었으나 초기값에 민감하거나 희소 그래프에서 성능이 저하되는 한계가 있다. 최근에는 Chen‑Xu, Cai‑Li 등이 제시한 SDP 완화가 주목받았으며, 이들은 전역 최적화를 보장하고 초기값 의존성을 없애지만, 제약이 느슨해 정확도와 이론적 보장이 제한적이다. 2. **MLE 완화의 일반 프레임워크** 저자는 MLE 목적식을 2ℓ(Z, ψ)=⟨A, Z f(ψ) Zᵀ⟩+⟨Eₙ, Z g(ψ) Zᵀ⟩ 형태로 변형하고, 특히 플랜티드 파티션(Planted Partition, PP) 모델 ψ = q Eₖ + (p−q) Iₖ (p>q) 에 집중한다. 이 경우 f(ψ), g(ψ) 가 두 값만 취하게 되므로 목적식은 ⟨A, X⟩−λ⟨Eₙ, X⟩ (X=ZZᵀ) 로 단순화된다. 여기서 λ>0는 p와 q에 의해 정의된다. 따라서 MLE는 X∈{0,1}^{n×n} (클러스터 행렬) 중 ⟨A, X⟩−λ⟨Eₙ, X⟩ 를 최대화하는 문제로 변환된다. 3. **새로운 SDP 완화 SDP‑1** 균등 블록 크기(각 블록 n/K) 를 가정하면, 가능한 Z는 고정 행렬 Z₀=Iₖ⊗1_{n/K} 의 순열 궤도에 속한다. 이에 대응하는 X₀=Iₖ⊗E_{n/K} 역시 순열에 의해 변환된다. X₀는 PSD이며, 0≤X≤1, diag(X)=1ₙ, 그리고 각 행의 합이 n/K 라는 추가 선형 제약을 만족한다. 저자는 λ⟨Eₙ, X⟩ 항이 행합 제약에 의해 상수이므로 목적식에서 제거하고, 다음 SDP를 제시한다: **SDP‑1** maximize ⟨A, X⟩ subject to X 1ₙ = (n/K) 1ₙ, diag(X)=1ₙ, X≽0, 0≤X≤1. 이 제약은 기존 SDP‑2(핵노름·트레이스 제약)와 SDP‑3(PSD·0‑1 구간 제약)보다 더 타이트하며, 특히 행합을 개별적으로 제한함으로써 허용 가능한 해 공간을 크게 축소한다. 4. **이론적 결과** - **정확 복구(Exact Recovery)**: 저자는 ‘약한 동질성(weak assortativity)’ 정의를 도입한다. 이는 p>q이며, (p−q)·(n/K) = Ω(log n) 정도면 충분하다는 의미이다. 이 조건 하에, primal‑dual witness 기법을 사용해 최적해 X*가 실제 커뮤니티 행렬과 일치함을 증명한다. - **강한 동질성 필요성**: SDP‑2와 SDP‑3에 대해, 강한 동질성(strong assortativity) 없이 정확 복구가 불가능함을 반증한다. 구체적으로, 라그랑주 승수의 부호가 부정확해져 dual feasibility가 깨지는 경우를 구성한다. 이는 기존 연구가 강한 동질성을 가정한 것이 단순히 증명 기술의 한계가 아니라 구조적 한계임을 보여준다. - **불균형 블록 확장**: 섹션 6에서는 블록 크기가 서로 다른 경우를 다루며, 행합 제약을 블록별 크기로 일반화한다. 이를 통해 SDP‑1을 비균형 SBM에도 적용 가능하도록 확장한다. 5. **알고리즘 구현** 대규모 SDP 해결을 위해 ADMM 기반 1차 방법을 제시한다. 변수 업데이트는 (i) PSD 투사, (ii) 행합 및 대각선 제약을 만족시키는 단순 투사, (iii) 라그랑주 승수 업데이트 순으로 이루어진다. 실험에서는 n≈2000, K≈50 정도까지 수분 내에 수렴함을 확인한다. 6. **실험 및 응용** - **정확도 비교**: 다양한 (p, q) 조합, K=10~50, n=1000~3000 에 대해 SDP‑1, SDP‑2, SDP‑3, 정규화 스펙트럴 클러스터링을 비교한다. 약한 동질성 영역에서 SDP‑1은 95% 이상 정확 복구율을 유지하는 반면, 다른 SDP와 스펙트럴 방법은 급격히 성능이 떨어진다. - **네트워크 히스토그램**: 그래프온 추정에서 블록 크기를 균등하게 맞추는 것이 히스토그램 형태의 근사에 유리함을 보인다. SDP‑1은 자동으로 비슷한 크기의 블록을 생성해 히스토그램의 bin 크기를 일정하게 유지한다. 실제 돌고래 사회 네트워크 데이터에 적용해, 기존 방법보다 더 명확한 구조를 드러냈다. - **계산 비용**: SDP‑1은 SDP‑2·3보다 제약이 더 많아 내부 선형 시스템이 약간 무거우나, ADMM 구현으로 전체 실행 시간이 2~3배 정도만 늘어나는 수준이며, 정확도 향상이 그 비용을 정당화한다. 7. **결론 및 전망** 논문은 SDP‑1이 (1) 더 타이트한 제약 설계, (2) 약한 동질성만으로도 정확 복구 가능, (3) 블록 크기 균등성을 자연스럽게 유도, (4) 그래프온 히스토그램 등 비정형 응용에 적합, (5) 실험적으로 기존 SDP와 스펙트럴 방법을 능가한다는 5가지 장점을 제시한다. 향후 연구는 (i) 비균형 SBM에 대한 이론적 경계 강화, (ii) 대규모(수만 노드) 그래프에 대한 고성능 1차 SDP 솔버 개발, (iii) 그래프온 추정과 결합한 통계적 모델링 프레임워크 확장 등을 제안한다.