효율적인 마코프 네트워크 구조 학습을 위한 독립성 검정 기반 알고리즘

본 논문은 마코프 네트워크(MN) 구조를 데이터로부터 효율적으로 학습하기 위한 두 가지 새로운 알고리즘, GSMN*와 GSIMN을 제시한다. 기존의 구조 학습 방법은 주로 최대우도(Maximum Likelihood) 기반으로, 파라미터 추정과 정규화 상수 계산이 필요해 NP‑hard 문제에 직면한다. 반면 독립성 검정 기반 접근법은 그래프가 내포하는 조건부 독립성 관계를 직접 검정함으로써 확률적 추론 없이 구조를 추정한다. 첫 번째 알고리즘인 GSMN*는 Margaritis와 Thrun이 제안한 Grow‑Shrink(GS) 절차를 무방향 그래프에 맞게 변형한 것이다. 각 변수 X에 대해 초기 후보 집합을 전체 변수 V\{X}로 두고, 조건부 독립성 검정 (X ⟂⊥ Y | S) 를 수행한다. 검정 결과가 독립이면 Y를 후보에서 제거하고, 독립이 아니면 Y를 X의 마코프 블랭킷에 포함한다. 이 과정에서 S는 현재까지 확인된 블랭킷 변수들의 부분집합으로, 가능한 한 작은 크기로 유지한다. 이렇게 하면 큰 조건부 집합으로 인한 통계적 불안정을 피하면서, 모든 변수 쌍에 대해 최소한 한 번의 검정을 보장한다. 두 번째 알고리즘인 GSIMN은 GSMN*에 “추론 기반” 레이어를 추가한다. Pearl이 제시한 조건부 독립성 공리(대칭, 분해, 강한 결합, 전이)를 활용해, 이미 수행된 검정 결과로부터 새로운 독립성을 유도한다. 핵심은 논문에서 새롭게 정의한 “Triangle 정리”이다. 이 정리는 세 변수 X, Y, Z와 공통 조건 집합 S에 대해 (X ⟂⊥ Y | S) 와 (Y ⟂⊥ Z | S) 가 모두 성립하면 (X ⟂⊥ Z | S) 도 자동으로 성립한다는 내용이다. 따라서 두 번의 실제 검정만으로 세 변수 사이의 모든 독립성을 파악할 수 있다. GSIMN은 이 정리를 이용해 매 단계마다 가능한 모든 추론을 수행하고, 실제 통계 검정이 필요한 경우에만 호출한다. 알고리즘의 복잡도 분석 결과, GSMN*는 최악의 경우 O(n³) 검정을 수행한다(여기서 n은 변수 수). GSIMN은 추론을 통해 불필요한 검정을 제거함으로써 평균적으로 O(n²) 수준으로 감소한다. 실험에서는 인공적으로 생성된 다양한 복잡도와 의존도 강도를 가진 네트워크, 그리고 실제 유전학·컴퓨터 비전·사회 과학 데이터셋을 대상으로 두 알고리즘을 비교하였다. 결과는 다음과 같다. 1. **검정 횟수 및 실행 시간**: GSIMN은 GSMN*에 비해 30%~70% 정도 검정 횟수를 절감했으며, 실행 시간 역시 비슷한 비율로 단축되었다. 특히 변수 수가 1000 이상인 대규모 데이터에서 차이가 두드러졌다. 2. **구조 정확도**: Hamming distance와 F‑score를 이용한 평가에서 GSIMN은 GSMN*와 동등하거나 약간 높은 점수를 기록했다. 이는 추론 단계가 잘못된 독립성을 도입하지 않으며, 오히려 통계적 노이즈가 많은 상황에서 검정 오류를 보완하기 때문이다. 3. **GSIMN‑FCH와의 비교**: 전방향 체이닝(FCH) 방식은 Pearl 공리를 전부 적용해 가능한 모든 독립성 집합을 생성한다. 그러나 GSIMN은 Triangle 정리만 사용해도 FCH에 근접한 효율성을 달성했으며, 구현 복잡도와 메모리 사용량 면에서 우수했다. 이론적 측면에서는 두 알고리즘 모두 “faithful” 분포 가정 하에 정확성을 보장한다. 즉, 실제 데이터가 그래프와 동형(isomorphic)이라면 알고리즘이 반환하는 구조는 유일하게 원본 그래프와 일치한다. 논문 부록에서는 GSMN*와 GSIMN의 정밀한 증명을 제공하며, 증명은 조건부 독립성 공리와 알고리즘이 수행하는 탐색 순서가 모든 가능한 마코프 블랭킷을 완전하게 탐색한다는 점에 기반한다. 결론적으로, GSIMN은 독립성 검정 기반 구조 학습에서 통계 검정 비용을 크게 낮추면서도 정확성을 유지하거나 향상시킬 수 있는 실용적인 방법이다. 특히 변수 수가 많고 샘플이 제한된 분야(예: 유전체 네트워크, 대규모 사회 네트워크 분석)에서 실시간 혹은 제한된 연산 자원 하에 적용하기에 적합하다. 향후 연구 방향으로는 비정규(discrete)와 연속형 변수가 혼합된 하이브리드 도메인에 대한 확장, 그리고 병렬/분산 환경에서의 구현 최적화가 제시된다.