역 KLD 기반 가우시안 혼합 감소 알고리즘

** 본 논문은 가우시안 혼합 모델(Gaussian Mixture Model, GMM)의 구성 요소 수를 효율적으로 감소시키는 새로운 전역 탐욕 알고리즘을 제시한다. 기존 연구에서는 주로 정방향 Kullback‑Leibler Divergence(FKLD)를 비용 함수로 사용해 두 구성 요소를 병합하는 방식이 일반적이었다. 대표적인 예가 Runnalls의 알고리즘으로, KLD의 상한을 이용해 병합 후보를 평가한다. 그러나 FKLD는 “zero‑avoiding” 특성 때문에 원본 혼합에 존재하는 작은 피크나 희소한 모드를 유지하기 어렵고, 병합만을 허용함으로써 저중량 성분을 무조건 유지하게 된다. Williams와 Maybeck은 Integral Square Error(ISE)를 이용해 전역적으로 프루닝·병합을 모두 고려했지만, ISE 계산이 O(N⁴) 복잡도를 가지며 고차원에서 스케일이 좋지 않다. 또한 ISE는 확률 분포 간의 거리라기보다 차이 제곱 적분이므로, 확률 질량이 작은 영역에서의 차이를 과도하게 강조할 수 있다. 이에 저자들은 역 Kullback‑Leibler Divergence(RKLD), 즉 D_KL(\hat p‖p)를 최소화하는 접근법을 채택한다. RKLD는 축소된 혼합이 원본을 얼마나 잘 “덮는지”를 측정하므로, 원본에 비해 불필요한 성분을 제거해도 큰 비용이 발생하지 않을 경우 프루닝을 자연스럽게 선택한다. 반대로 두 성분이 서로 겹쳐 있어 하나로 대체하는 것이 비용을 크게 줄이면 병합이 선택된다. 알고리즘 흐름은 다음과 같다. 1. 현재 혼합에 대해 모든 프루닝 가설(H₀J)와 병합 가설(H_IJ)을 생성한다. 2. 각 가설에 대해 RKLD를 근사 계산한다. - 병합 가설: 두 가우시안을 순간 매칭(moment‑matching)으로 하나의 가우시안으로 합친 뒤, 2차 테일러 전개를 이용해 D_KL을 근사한다. - 프루닝 가설: 남은 가우시안의 로그‑우도 기대값을 가우시안 적분으로 근사하고, 엔트로피 항을 정확히 구해 −log w_J 형태의 간단한 식으로 정리한다. 3. 비용이 최소인 가설을 선택하고, 혼합을 업데이트한다. 4. 목표 개수에 도달할 때까지 1‑3을 반복한다. 이 과정에서 비용 계산은 O(N²)이며, 각 단계에서 필요한 통계량(평균·공분산·가중치)은 기존 혼합에서 재사용 가능하므로 메모리 오버헤드도 낮다. 논문은 두 가지 실험을 통해 제안 방법의 장점을 검증한다. 첫 번째는 두 가우시안이 서로 멀리 떨어진 경우(μ≫0)와 가까운 경우(μ≈0)를 비교한 인공 데이터 실험이다. μ가 작을 때는 병합을, μ가 클 때는 프루닝을 선택함을 확인했으며, 이는 RKLD가 상황에 따라 적절히 전환한다는 것을 보여준다. 두 번째는 실제 레이더 측정 데이터를 이용한 다중 목표 추적 시뮬레이션이다. 여기서 기존 Runnalls 방법은 저중량 목표를 과도하게 병합해 모드 손실이 발생했지만, 제안 알고리즘은 저중량 목표를 프루닝하면서도 주요 목표의 피크를 보존했다. 정량적으로는 평균 트래킹 오차가 12 % 감소하고, 연산 시간도 30 % 이상 단축되었다. 결론적으로, 역 KLD 기반 전역 감축은 (1) 프루닝·병합을 자동 전환해 원본 모드 보존에 유리하고, (2) 근사식 덕분에 O(N²) 복잡도로 실시간 적용 가능하며, (3) 기존 FKLD‑upper‑bound 방법과 ISE 방법이 갖는 한계를 보완한다는 점에서 가우시안 혼합 모델을 활용하는 다양한 신호·영상·추적 응용 분야에 실질적인 이점을 제공한다. **