Viterbi 프로세스 존재에 대한 구성적 증명

본 논문은 은닉 마코프 모델(HMM)에서 무한히 긴 Viterbi 정렬(정렬 경로)이 존재함을 기존의 존재론적 증명과 달리 구체적인 구성 방식을 통해 증명한다. “장벽(barrier)”과 “노드(node)” 개념을 도입해 관측열에 일정한 패턴이 나타날 경우 Viterbi 정렬이 조각별로 고정될 수 있음을 보이고, 이러한 장벽이 양의 확률로 발생함을 보임으로써 거의 모든 관측 실현에 대해 무한 Viterbi 정렬이 정의 가능함을 보인다. 또한 제…

저자: J. Lember, A. Koloydenko

본 논문은 은닉 마코프 모델(HMM)에서 관측 시퀀스 \(X_{1:\infty}\)에 대해 Viterbi 알고리즘이 산출하는 최대 사후 확률(MAP) 경로, 즉 Viterbi 정렬을 무한히 연장할 수 있는 “Viterbi 프로세스”가 존재함을 구성적으로 증명한다. 연구 동기는 Viterbi 정렬이 유한 길이에서는 잘 정의되지만, 관측 길이가 무한대로 갈 때 정렬이 어떻게 행동하는지에 대한 이론적 이해가 부족하다는 점에 있다. 기존 연구들은 K=2인 경우나 전이 행렬이 전부 양수인 경우에 한정된 가정 하에 ‘meeting time’·‘meeting state’라는 개념을 이용해 존재를 보였지만, 일반적인 K≥2 상황에서는 전이 행렬에 영(0) 원소가 존재할 수 있어 이러한 접근이 제한적이었다. ### 1. 모델 설정 및 기본 정의 - 상태 공간 \(S=\{1,\dots,K\}\) (K>1)와 전이 행렬 \(P=(p_{ij})\)를 갖는 마코프 체인 \(Y_i\)를 가정한다. 체인은 비주기성, 비감소성을 만족해 고유한 정 stationary 분포 \(\pi\)가 존재한다. - 각 상태 \(l\)에 대해 방출 분포 \(P_l\)와 밀도 \(f_l\)를 정의하고, 관측 \(X_i\)는 \(Y_i\)와 독립적인 잡음 \(e_i\)를 통해 \(X_i=h(Y_i,e_i)\) 형태로 생성된다. - Viterbi 알고리즘은 동적 계획법을 이용해 \(\delta_u(l)=\max_{q_{1:u-1}}\Lambda(q_{1:u-1},l;x_{1:u})\)를 재귀적으로 계산하고, 최종적으로 \(\delta_n(l)\)가 가장 큰 상태들을 모아 정렬 집합 \(V(x_{1:n})\)를 만든다. ### 2. 노드와 장벽 개념 - **노드(node)**: 시간 \(u\)와 정수 \(r\)에 대해, 어떤 상태 \(l\)가 존재하여 \(\delta_u(l) p^{(r)}_{lj}(u) \ge \delta_u(i) p^{(r)}_{ij}(u)\)가 모든 \(i,j\)에 대해 성립하면 \(x_u\)는 \(l\)-노드(order \(r\))라 정의한다. 여기서 \(p^{(r)}_{ij}(u)\)는 길이 \(r\) 경로의 최대 가능도이다. 강한 노드(strong node)는 부등식이 엄격히 성립하는 경우이며, 강한 노드가 있으면 해당 시점의 상태는 이후 관측에 영향을 받지 않는다. - **장벽(barrier)**: 길이 \(b\)의 관측 블록 \(z_{1:b}\)가 존재하여, 어떤 고정된 노드 \(x_u\)와 결합될 때 \(x_u\)가 언제든지 노드가 되도록 하는 구조이다. 논문은 일정 길이 \(M\)의 블록이 장벽이 될 확률이 양수임을 보이고, 마코프 체인의 ergodicity와 결합해 거의 모든 무한 관측 실현이 무한히 많은 장벽을 포함한다는 결론을 도출한다. ### 3. 조각별 정렬(piecewise alignment) - 장벽에 포함된 노드들의 시점 \(\{u_k\}\)를 기준으로 구간 \(

원본 논문

고화질 논문을 불러오는 중입니다...

댓글 및 학술 토론

Loading comments...

의견 남기기