스케일러블 커널 기반 거리와 통계적 추론 및 적분

이 논문은 확률분포 간 거리 측정과 그 응용을 위한 커널 기반 방법론을 전반적으로 재조명하고, 두 개의 주요 파트로 나누어 깊이 있는 연구를 전개한다. 첫 번째 파트는 기존에 널리 사용되는 최대 평균 차이(MMD)를 중심으로, 그 추정 효율성을 크게 향상시키는 일련의 기법들을 제안한다. 제3장에서는 시뮬레이션 기반 추론(SBI) 상황에서 MMD를 추정하기 위한 최적 가중치 추정기(Optimally‑Weighted MMD, OW‑MMD)를 도입한다. 이 방법은 표본 간 상관관계를 고려한 가중치 행렬을 라그랑주 승수 최적화로 구하고, 기존 V‑statistic 기반 MMD 추정기의 편향과 분산을 동시에 최소화한다는 이론적 보장을 제공한다. 실험에서는 다변량 g‑and‑k 분포와 풍력 발전소 시뮬레이터를 대상으로, OW‑MMD가 동일한 표본 수에서 V‑statistic 대비 3배 이상의 정확도를 달성함을 보여준다. 제4장에서는 MMD를 이용해 조건부 기대값을 효율적으로 추정하는 방법을 제시한다. 여기서는 조건부 베이지안 적분(Conditional Bayesian Quadrature, CBQ)이라는 프레임워크를 설계하여, 사후 분포의 조건부 평균을 커널 회귀 형태로 근사한다. CBQ는 기존 베이지안 적분이 요구하는 고차원 적분을 회피하고, 샘플 효율성을 크게 높인다. 또한, 선형 모델과 SIR 모델, 옵션 가격 모델 등 다양한 실험을 통해 조건부 기대값 추정의 정확도가 기존 MCMC 기반 방법보다 우수함을 입증한다. 제5장에서는 MMD를 이용한 수치 적분에서 발생하는 캘리브레이션 문제를 다룬다. 적분 결과에 대한 불확실성을 정량화하기 위해 커널 스케일 파라미터를 데이터에 맞게 추정하는 방법을 제안한다. 교차 검증(CV)과 최대 가능도(ML) 두 가지 추정 방식을 비교 분석하고, Matérn 커널의 스무스니스 파라미터가 신뢰구간 커버리지를 어떻게 영향을 미치는지를 이론적으로 증명한다. 실험에서는 분수 브라운 운동과 분수 브라운 운동 적분 문제에 대해, 제안된 캘리브레이션 기법이 기존 방법 대비 20% 이상 높은 커버리지를 제공함을 확인한다. 두 번째 파트는 MMD가 평균 임베딩에만 의존함으로써 발생하는 한계를 극복하고자, 커널 분위수 임베딩(Kernel Quantile Embedding, KQE)이라는 새로운 개념을 도입한다. 제6장에서는 분위수 함수와 Wasserstein 거리의 관계를 정리하고, 이를 RKHS에 매핑하는 방법을 제시한다. 특히 Gaussian 커널을 사용한 커널 분위수 불일치(Kernel Quantile Discrepancy, KQD)를 정의하고, KQD가 MMD와 달리 분포의 비대칭성, 꼬리 행동, 고차 모멘트 차이를 효과적으로 포착한다는 이론적 특성을 증명한다. KQD의 샘플 복잡도는 O(N⁻¹)로, MMD와 동일한 비율을 유지하면서도 더 풍부한 분포 정보를 제공한다. 실험에서는 CIFAR‑10 이미지 분포, 금융 옵션 가격 분포, 그리고 합성 데이터셋에 대해 KQD와 MMD, 그리고 최근 제안된 FastMMD, Random Fourier Features 기반 근사 방법들을 비교한다. 결과는 KQD가 동일한 계산 비용 하에 테스트 파워와 분포 구분 능력에서 일관되게 우수함을 보여준다. 또한, KQD를 이용한 샘플 요약(thinning) 및 도메인 적응 실험에서도 기존 IPM 기반 방법보다 더 적은 샘플로 높은 성능을 달성한다. 논문의 마지막 장에서는 전체 연구를 종합하며, 커널 기반 거리 측정이 통계적 추론, 베이지안 적분, 조건부 기대값 추정, 그리고 캘리브레이션 등 다양한 분야에 어떻게 적용될 수 있는지를 논의한다. 또한, KQD와 같은 새로운 불일치 지표가 MMD의 한계를 보완하면서도 계산 효율성을 유지할 수 있음을 강조하고, 향후 연구 방향으로는 고차원 데이터에 대한 스케일링, 비정형 데이터에 대한 커널 설계, 그리고 딥러닝과의 통합 가능성을 제시한다.