자동 경로 길이 조정으로 HMC를 혁신한 무턴 샘플러

본 논문은 고차원 베이지안 모델에서 널리 활용되는 Hamiltonian Monte Carlo(HMC)의 두 핵심 파라미터, 스텝 크기 ε와 시뮬레이션 단계 수 L의 튜닝 문제를 해결하고자 한다. HMC는 목표 분포의 로그밀도와 그 그래디언트를 이용해 가상의 물리 시스템을 시뮬레이션함으로써 랜덤 워크 현상을 크게 억제하고, 높은 차원에서도 효율적인 탐색을 가능하게 한다. 그러나 ε가 너무 크면 레프포그 근사 오차가 커져 수용률이 급감하고, ε가 너무 작으면 연산량이 불필요하게 늘어난다. L은 더욱 까다운데, L이 작으면 샘플이 이전 위치에 머무는 현상이 발생해 믹싱이 느려지고, L이 과도하면 궤적이 시작점으로 되돌아가 불필요한 계산을 수행한다. 기존에는 사전 튜닝이나 전문가의 경험에 의존해 ε와 L을 설정했으며, 이는 자동화된 추론 엔진에 큰 장애물이었다. 이를 극복하기 위해 저자들은 No‑U‑Turn Sampler(NUTS)를 제안한다. NUTS는 단계 수 L을 사전에 지정하지 않고, 궤적이 “U‑turn”을 만들 때까지 자동으로 확장한다. 구체적으로, 레프포그 통합을 진행하면서 현재 모멘텀 r와 현재 위치와 시작점 사이의 벡터(θ̃−θ)의 내적을 모니터링한다. 이 내적이 음수가 되면 궤적이 시작점으로 되돌아가고 있음을 의미하므로, 더 이상 확장하지 않는다. NUTS는 이 과정을 효율적으로 구현하기 위해 이진 트리 구조를 재귀적으로 구축한다. 초기 상태에서 무작위로 전진 혹은 후진 방향을 선택하고, 2^j 단계만큼 레프포그를 수행해 트리의 잎을 만든다. 각 레벨에서 트리를 “doubling”하는 방식으로 확장하며, 트리의 어느 서브트리에서도 “U‑turn” 조건이 위배되면 해당 서브트리의 확장을 중단한다. 이렇게 형성된 전체 트리의 가장 왼쪽과 가장 오른쪽 잎 사이의 내적을 검사해 전체 트리 확장을 제어한다. 트리 구축 과정에서 슬라이스 변수 u를 도입한다. u는 현재 상태의 조인트 밀도 exp{L(θ)−½r·r} 이하의 균등 분포를 따르며, 이를 통해 트리 내 모든 후보 상태가 동일한 슬라이스 조건을 만족하도록 만든다. 후보 집합 B는 트리 전체에 포함된 모든 (θ, r) 쌍이며, 그 중에서 상세 균형을 유지하면서 선택 가능한 집합 C를 정의한다. C는 체적 보존(volume preserving)과 가역성(time reversibility)을 만족하도록 설계되었으며, 현재 상태가 반드시 C에 포함되고, 슬라이스 조건을 만족하는 상태만이 C에 들어간다. 최종적으로 C에서 균등하게 하나를 선택해 다음 마코프 체인 상태로 전이한다. 스텝 크기 ε는 Nesterov(2009)의 듀얼 어버징 알고리즘을 차용해 자동 적응한다. 목표 수용률(예: 0.65)을 사전에 지정하고, 매 반복마다 현재 수용률과 목표 수용률의 차이를 이용해 로그 ε를 업데이트한다. 이 방식은 ε를 빠르게 최적값에 수렴시키며, 별도의 사전 튜닝 없이도 안정적인 수용률을 유지한다. 알고리즘의 이론적 정당성은 두 가지 핵심 원칙에 기반한다. 첫째, 레프포그 통합은 체적 보존과 가역성을 보장하므로, 메트로폴리스-해스팅스 수용률을 따로 계산할 필요 없이 슬라이스 샘플링 형태로 전체 과정이 목표 분포에 대한 불변분포를 유지한다. 둘째, 트리 확장과 후보 선택 과정이 대칭적이며, 어느 상태에서 시작하든 동일한 확률 분포를 생성하도록 설계되어 상세 균형을 만족한다. 실험에서는 2차원 혼합 가우시안, 로지스틱 회귀, 베이지안 신경망 등 다양한 모델에 NUTS와 전통적인 HMC를 적용하였다. 튜닝된 HMC와 비교했을 때, NUTS는 동일한 연산 시간당 유효 샘플 수(ESS)가 동등하거나 더 높았으며, 특히 L을 과도하게 설정했을 때 발생하는 비효율성을 완전히 회피한다. 또한, 자동 튜닝된 ε와 L 없이도 안정적인 수용률을 유지함으로써, 복잡한 모델에 대한 사전 실험 없이 바로 적용할 수 있음을 보여준다. 결론적으로, NUTS는 HMC의 강력한 탐색 능력을 유지하면서 사용자가 직접 L을 지정할 필요를 없애고, ε를 자동 적응시킴으로써 “턴키”형 MCMC 샘플러로서의 가치를 입증한다. 이는 BUGS, JAGS, PyMC와 같은 자동 베이지안 추론 프레임워크에 직접 통합될 수 있는 실용적인 솔루션이며, 고차원 복잡 모델에서도 손쉽게 고효율 샘플링을 가능하게 한다.