네이만 직교성을 이용한 반파라메트릭 베이지안 추론

본 논문은 반파라메트릭 모델에서 베이지안 추론을 수행할 때, 비모수적으로 추정된 교란 파라미터를 플러그인하는 두 단계 절차가 통계적으로 정당한지를 체계적으로 탐구한다. 서론에서는 베이지안 프레임워크 하에서 목표 파라미터 θ₀가 손실 함수 l(O;θ) 혹은 모멘트 조건 E_P m(O;θ)=0의 최소화/해로 정의된다는 점을 제시하고, 교란 파라미터 h₀가 비모수적(예: Dirichlet 과정 기반)으로 모델링될 경우 기존 베이지안 방법이 복잡해지는 문제를 제기한다. 2장에서는 베이지안 부트스트랩(Weighted empirical process)과 Dirichlet 과정 사전이 어떻게 사후분포 샘플을 생성하는지를 상세히 설명한다. 데이터 O₁,…,O_n이 i.i.d.라면, Dirichlet(1,…,1) 가중치 w_i를 이용해 P_w =∑w_iδ_{O_i} 로 만든 가중치 경험분포에 대해 θ̂_{w}=argmin_θ∑w_i l(O_i;θ) 혹은 ∑w_i m(O_i;θ)=0 을 풀어 사후 샘플을 얻는다. 정리 1은 이 절차가 전통적인 빈도주의 추정량 θ̂_n과 동일한 점근적 정규분포 N(θ₀, Σ)를 갖는다는 베이지안‑빈도주의 이중성을 증명한다. 3장에서는 네이만 직교성(Neyman orthogonality)의 정의와 역할을 정형화한다. 스코어 m(O;θ,h)가 h에 대해 1차 미분이 0인 경우, 교란 파라미터의 추정오차가 θ̂ 의 1차 영향에 기여하지 않는다. 이를 기반으로 가정 1~6을 설정한다. 가정 1은 교란 추정기 ĥ가 일관적이며, 가정 2는 θ̂_n, θ̂_{n,B}가 무조건적 일관성을 갖는다는 전제다. 가정 3은 네이만 직교성, 가정 4·5는 Donsker 및 Glivenko‑Cantelli 조건, 가정 6은 √n E_P m(O;θ₀,ĥ)→0을 요구한다. 주요 정리 3은 위 가정 하에 √n(θ̂_{n,B}−θ₀) | O₁,…,O_n 이 N(0, Σ)에 수렴함을 보이며, 이는 교란 파라미터를 플러그인한 베이지안 부트스트랩 사후분포가 정확한 빈도주의 커버리지를 제공함을 의미한다. 또한, 네이만 직교성이 없을 경우에도 Lemma 1과 Theorem 4를 통해 교란 추정이 일관적이면 θ̂ 의 점근적 분포가 크게 변하지 않으며, 교란 추정의 수렴 속도에 대한 요구가 완화된다는 점을 강조한다. 5절에서는 인과 추론을 구체적 사례로 다룬다. 치료 변수 T, 결과 Y, 공변량 X를 포함한 관측 O=(X,T,Y)에서 propensity score e(X)=P(T=1|X) 를 비모수적으로 BART 등으로 추정하고, 이를 플러그인해 평균 치료 효과(ATE) 등을 추정한다. 두 단계 절차(플러그인 후 베이지안 부트스트랩)와 Linked Bayesian Bootstrap(교란 불확실성을 동시에 반영) 결과를 비교하면, 플러그인만으로도 사후 평균과 분산이 거의 동일하게 나오며, 불확실성을 반영한 경우 사후 분산이 약간 감소한다는 실증적 증거를 제공한다. 마지막으로 논문은 (1) 네이만 직교성은 베이지안 플러그인 절차의 정당성을 보장하는 핵심 구조이며, (2) Dirichlet 과정 기반 베이지안 부트스트랩은 교란 파라미터를 비모수적으로 다루면서도 점근적 정규성을 유지한다, (3) 직교성이 없더라도 일관적 교란 추정만으로는 사후분포에 큰 왜곡을 일으키지 않는다,는 세 가지 주요 결론을 제시한다. 이러한 결과는 복잡한 반파라메트릭 모델, 특히 인과 추론에서 교란 모델을 비모수적으로 추정해야 하는 상황에서 베이지안 분석을 보다 실용적이고 이론적으로 견고하게 만든다.