트리폭 제한 마코프 네트워크의 최대우도 학습: 하이퍼트리 최적화와 복합 난이도

** 본 논문은 확률 그래프 모델 중 마코프 네트워크의 구조 학습 문제를 트리폭이라는 그래프 이론적 복잡도 지표를 이용해 일반화한다. 기존의 Chow‑Liu 알고리즘은 변수 간 쌍별 상호정보량을 이용해 최대우도 트리를 찾는 방법으로, 트리 구조가 지나치게 단순해 실제 데이터의 고차 상호작용을 반영하지 못한다는 한계가 있다. 이를 극복하기 위해 저자들은 트리폭이 k 이하인 마코프 네트워크를 목표 구조로 설정한다. 트리폭이란 그래프가 k+1개의 정점으로 이루어진 클리크들을 트리 형태로 연결한 구조를 의미하며, 트리폭이 작을수록 그래프의 전역적인 복잡도는 낮지만, 클리크 내부에서는 다변량 상호작용을 충분히 모델링할 수 있다. 따라서 트리폭 제한은 모델 복잡도와 추론 효율성 사이의 균형을 제공한다. 논문은 먼저 마코프 네트워크의 로그우도 함수를 클리크와 그 경계(분리집합) 사이의 엔트로피 차이로 분해한다. 이때 각 클리크에 부여되는 가중치는 해당 클리크가 포함하는 변수들의 결합 엔트로피와 경계 엔트로피 차이로 정의된다. 이러한 가중치 표현을 이용하면, 트리폭 ≤ k인 마코프 네트워크를 찾는 문제는 “가중치가 최대인 k‑트리폭 하이퍼트리”를 찾는 문제와 동치가 된다. 여기서 하이퍼트리는 일반적인 트리와 달리 하이퍼엣지(다중 정점 집합)로 이루어져 있으며, 각 하이퍼엣지는 하나의 클리크를 나타낸다. 따라서 하이퍼트리의 가중치 합이 전체 로그우도와 정확히 일치한다. 이 동등성을 바탕으로 저자들은 문제를 0‑1 정수선형계획(IP)으로 모델링한다. 변수 x_e는 하이퍼엣지 e가 선택되는지를 나타내며, 제약식은 (1) 각 정점이 포함된 하이퍼엣지 수가 적절히 제한됨, (2) 선택된 하이퍼엣지들이 사이클을 형성하지 않도록 하는 서브투리 제약, (3) 모든 하이퍼엣지의 크기가 k+1 이하(즉, 트리폭 제한)인 것을 보장한다. 이 IP는 상용 MILP 솔버를 이용해 정확하게 풀 수 있으며, 라그랑주 이완을 통해 빠른 근사 해를 얻을 수 있다. 라운딩 기법을 적용하면, 최적해와 비교해 2배 이하의 비용 차이를 보장하는 근사 비율을 증명한다. 복잡도 측면에서 논문은 트리폭 제한 마코프 네트워크 학습이 NP‑hard임을 증명한다. 이를 위해 k‑트리폭 하이퍼트리 문제를 k‑클리크 커버 문제에 귀환한다. k‑클리크 커버는 이미 NP‑complete이며, 근사 비율이 로그(k) 이하로 제한된다는 결과가 알려져 있다. 따라서 마코프 네트워크 학습 문제 역시 동일한 난이도를 가지며, PTAS(다항 시간 근사 스킴)가 존재하지 않음도 보인다. 이러한 이론적 난이도는 기존에 제안된 로컬 서치 기반 휴리스틱이 최적성을 보장하지 못함을 정당화한다. 실험에서는 합성 데이터와 실제 베이즈 네트워크(Alarm, Barley, Insurance 등)를 사용해 트리폭 2,3,4에 대한 학습을 수행한다. 제안된 정수계획 기반 알고리즘은 기존의 Greedy edge addition, Simulated annealing, Genetic algorithm 등과 비교했을 때 로그우도 점수에서 평균 5~12% 향상을 보이며, 특히 트리폭이 증가함에 따라 복잡한 변수 간 상호작용을 효과적으로 포착한다. 추론 시간은 트리폭이 작을수록 선형에 가깝게 유지돼 실시간 응용에도 적합하다. 또한, 트리폭 2에서는 Chow‑Liu와 동일한 구조를 재현함으로써 기존 방법과의 호환성을 확인한다. 마지막으로 논문은 향후 연구 방향을 제시한다. 첫째, 데이터에 따라 지역적으로 트리폭을 조정하는 적응형 트리폭 학습 알고리즘; 둘째, 베이지안 관점에서 트리폭 제한 모델에 대한 사전 분포 설계와 모델 선택; 셋째, 대규모 데이터셋에 대한 분산 MILP 솔버와 병렬화 기법 적용. 이러한 연구는 트리폭 제한 마코프 네트워크 학습을 더욱 확장 가능하고 실용적인 도구로 만들 것이다. **