시계열 몬테카를로를 이용한 일반화 선형 혼합 모델 분석

본 논문은 일반화 선형 혼합 모델(GLMM)의 베이지안 추정을 위해 순차적 몬테카를로(SMC) 샘플러를 설계하고, 이를 기존의 마코프 체인 몬테카를로(MCMC) 방법과 비교·평가한다. 서론에서는 GLMM이 현대 복합 데이터 분석에 필수적이지만, 비선형 연결함수와 랜덤 효과로 인해 사후분포를 직접 샘플링하기가 어렵다는 점을 강조한다. 기존의 MCMC는 수렴 진단이 복잡하고, 고차원 파라미터 공간에서 효율적인 제안분포 설계가 어려워 실용적인 제한이 있다. 이러한 문제를 해결하고자 SMC를 도입한다. 2절에서는 베이지안 GLMM의 수학적 정의를 제시한다. 관측 y는 포아송·로지스틱 등 지수족 분포를 따르고, 고정 효과 β와 랜덤 효과 u가 선형 예측자 Xβ+Zu에 결합된다. 랜덤 효과는 다중 그룹별 분산 σ²_uℓ을 갖는 정규분포로 가정하고, β와 σ²_uℓ에 대해 확산된 가우시안·역감마 사전분포를 부여한다. 이러한 설정 하에 전체 파라미터 θ=(β,u,σ²_u)의 사후밀도 π(θ)∝likelihood·prior 로 표현된다. 3절이 논문의 핵심으로, SMC 샘플러 알고리즘을 상세히 설명한다. 먼저 초기 분포 π₀를 선택하는데, 사전분포가 지나치게 확산돼 입자 가중치가 급격히 소멸하는 문제를 피하기 위해 펜얼티미즈드 준우도(PQL) 방법으로 얻은 근사 최대우도 추정치(b_ν,PQL)와 그 헤시안을 이용해 ν=(β,u)에 대한 정규분포를 만든다. σ²_u는 ν를 조건으로 역감마 분포를 사용한다. 이렇게 하면 초기 입자들이 실제 사후분포와 어느 정도 겹치게 된다. 중간 분포 π_s는 온도 파라미터 γ_s를 도입해 π_s∝π₀^{1−γ_s}·π^{γ_s} 형태로 정의한다. γ_s는 0에서 1까지 점진적으로 증가시키며, 이는 로그우도 항을 서서히 삽입해 입자들이 급격한 가중치 변동 없이 목표 분포에 적응하도록 만든다. 각 단계에서 수행되는 절차는 다음과 같다. 1. **재가중치**: 기존 입자 θ_{s−1}에 대해 w_s = w_{s−1}·