시뮬레이터 오류에 강인한 사전조건 신경후방추정

시뮬레이션 기반 추론(SBI)은 복잡한 확률 모델의 사후분포를 직접 계산하기 어려울 때, 모델 시뮬레이션을 이용해 파라미터를 추정하는 강력한 프레임워크이다. 전통적인 ABC는 요약 통계와 거리 기반 허용치를 이용해 관측과 유사한 시뮬레이션만을 선택하지만, 차원 저주와 높은 시뮬레이션 비용으로 실용성이 제한된다. 최근에는 정상화 흐름(Normalizing Flow) 등을 활용한 신경후방추정(NPE)이 등장해 전체 시뮬레이션을 활용해 조건부 밀도 \(q_\phi(\theta|s)\)를 학습함으로써 적은 시뮬레이션으로도 높은 정확도를 달성한다. 그러나 NPE는 두 가지 근본적인 문제에 취약하다. 첫째, 모델 불일치가 존재하면 관측 요약 \(s_y\)가 모델이 생성할 수 있는 요약 공간 밖에 위치하거나 꼬리 영역에 머무르게 되며, 이 경우 신경망은 외삽을 강요받아 과신뢰하거나 왜곡된 후방분포를 반환한다. 둘째, 넓은 사전‑예측 분포는 극단적인 시뮬레이션을 많이 포함하고, 이러한 시뮬레이션은 학습 과정에서 신경망의 표현 용량을 낭비하게 만든다. 이러한 배경에서 저자는 사전조건(preconditioning)과 강인 추정(robust inference)을 결합한 새로운 방법인 Preconditioned Robust Neural Posterior Estimation(PRNPE)을 제안한다. 사전조건은 관측 요약과 가까운 시뮬레이션에 집중하도록 훈련 데이터를 필터링하거나 가중치를 부여하는 과정이다. 기존 연구(Wang et al., 2024)는 사전조건을 잘 정의된 사전‑예측 상황에만 적용했으며, 불일치 상황에서의 동작은 미검증이었다. 본 논문은 이를 일반화하여, 사전‑예측이 불일치와 극단값을 포함할 때도 효과적으로 작동하도록 설계한다. PRNPE의 핵심 구성 요소는 다음과 같다. (1) **데이터‑의존 가중치** \(w_i\)를 정의한다. 관측 요약 \(s_y\)와 시뮬레이션 요약 \(s_i\) 사이의 거리 혹은 트리 기반 근접점수를 이용해 가중치를 계산하고, 손실 함수 \(\mathcal{L} = \sum_i w_i \, \log q_\phi(\theta_i|s_i)\)에 적용한다. 이렇게 하면 관측에 가까운 시뮬레이션이 학습에 더 큰 영향을 미치게 된다. (2) **강인 오류 모델** \(\Gamma\)를 도입한다. 관측 요약은 시뮬레이션 요약과 오류의 합으로 모델링되며, \(\Gamma\)에 스파이크‑앤‑슬랩 혹은 라플라스 사전분포를 부여해 불필요한 조정을 억제한다. 이 오류 모델은 기존 Robust Neural Posterior Estimation(RNPE)과 유사하지만, 사전조건된 가중치와 결합함으로써 더 효율적인 학습이 가능하다. (3) **Forest‑Proximity 사전조건**을 제안한다. 회귀 랜덤 포레스트를 사전‑학습시켜 각 시뮬레이션이 관측 요약과 동일한 리프에 속할 확률을 가중치로 사용한다. 이 방법은 거리·허용치 파라미터를 전혀 필요로 하지 않으며, 고차원 요약에서도 안정적인 근접점수를 제공한다. (4) **SMC‑ABC 기반 사전조건**도 구현한다. 관측 요약과의 거리 기준을 완화한 SMC‑ABC 파일터링을 통해 시뮬레이션을 선택하고, 선택된 시뮬레이션에 동일하게 가중치를 부여한다. 이론적 측면에서 저자는 가중치 설계가 훈련 분포와 관측 요약 사이의 거리 모멘트를 최소화함을 보이고, 이를 통해 amortisation gap의 상한을 도출한다. 또한, 가중된 설계가 최소 분산을 달성한다는 정리를 제시해, PRNPE가 통계적으로 효율적임을 증명한다. 실험은 세 가지 시나리오로 구성된다. 첫 번째는 선형 가우시안 모델에 인위적인 요약 불일치를 삽입한 합성 데이터로, 관측 요약이 모델이 생성할 수 없는 영역에 위치한다. 두 번째는 비선형 복합 모델에서 사전‑예측 분포가 극단적인 꼬리를 갖는 경우이며, 세 번째는 실제 L5 피라미드 세포 모델에서 요약 불일치와 극단값이 동시에 발생한다. 각 실험에서 PRNPE는 기존 NPE, RNPE, Robust Bayesian Synthetic Likelihood(RBSL) 등과 비교되었다. 결과는 다음과 같다. (i) 평균 제곱 오차와 KL 발산이 모든 경우에서 현저히 낮았다. (ii) 95 % 신뢰구간의 빈도론적 커버리지가 목표 수준(≈0.95)으로 회복되었다. (iii) 사후예측 시뮬레이션이 관측 데이터를 재현하는 능력이 크게 향상되었으며, 특히 forest‑proximity 사전조건은 거리 기반 사전조건보다 적은 시뮬레이션으로 동일 수준의 정확도를 달성했다. 결론적으로, PRNPE는 사전조건과 강인 추정을 결합함으로써 모델 불일치와 사전‑예측 극단값이라는 두 가지 주요 문제를 동시에 완화한다. 트리 기반 근접점수 활용은 자동화된 사전조건 설계에 유용하며, 향후 다중 요약, 고차원 시뮬레이션, 베이지안 최적 설계와의 연계 연구가 기대된다.