로그볼록 꼬리를 가진 확률밀도 함수의 적응형 거부 샘플링 두 가지 방법

본 연구는 확률론적 시뮬레이션과 베이지안 추정에서 핵심적인 역할을 하는 거부 샘플링(Rejection Sampling, RS)과 그 적응형 변형인 적응형 거부 샘플링(Adaptive Rejection Sampling, ARS)의 한계를 극복하고자 한다. 전통적인 ARS는 목표 밀도 p(x)의 로그가 전역적으로 볼록(concave)일 때만 적용 가능하다는 제약이 있다. 그러나 실제 통계·공학 문제에서는 로그‑볼록(log‑convex) 꼬리를 갖는 다중모드 분포, 혹은 미분 가능성이 없는 복잡한 형태가 빈번히 등장한다. 기존 연구들은 변환 함수 G(x) 를 도입하거나, T‑concave 변환, 혹은 로그‑볼록/볼록 부분을 분리해 각각 처리하는 방법을 제시했지만, 변환 함수 선택의 어려움, 무한 구간에서의 불안정성, 그리고 전체 분포의 인플렉션 포인트(곡률 전환점) 탐색 필요성 등 실용적 제약이 존재한다. 논문은 이러한 문제점을 두 가지 새로운 적응형 거부 샘플링 알고리즘으로 해결한다. 첫 번째 알고리즘은 Martino와 Míguez가 이전에 제시한 아이디어를 체계화한 것으로, 목표 밀도 p₀(x) 를 p(x)=exp{−V(x;g)} 형태로 표현한다. 여기서 V(x;g) 는 n개의 마진 포텐셜 \(\bar V_i\) 와 변환 함수 \(g_i(x)\) 로 구성된 합으로, 각 \(\bar V_i\) 는 볼록(convex)이며 \(g_i\) 는 볼록 혹은 볼록이 아닐 수 있다. 기존 ARS가 실패하는 로그‑볼록 꼬리 구간에서는, 특정 인덱스 j 를 선택해 \(\bar V_j(g_j(x))\) 로 정의된 보조 밀도 q(x)=exp{−\(\bar V_j(g_j(x))\)} 를 사용한다. 이 q(x) 가 구간 Iₖ마다 적분 가능하고 샘플링이 가능하다는 전제 하에, 나머지 포텐셜 V^{−j}(x;g) 에 대해 각 구간별 하한 γₖ 를 계산하고 Lₖ=exp{−γₖ} 로 정의한다. 제안 밀도는 \(\pi_t(x)=L_k q(x)\) 로 구간별로 정의되며, 이는 겹치지 않는 트렁케이션된 밀도의 혼합 형태이다. 후보 샘플이 거부될 경우 해당 샘플을 새로운 지원점으로 추가해 지원 집합 Sₜ를 확장하고, 각 구간의 하한을 재계산함으로써 제안 밀도가 점차 목표 밀도에 근접한다. 이 과정은 로그‑볼록 꼬리에서도 Lₖ 가 유한값을 유지하므로 정규화 문제가 발생하지 않는다. 알고리즘의 핵심 장점은 (1) 로그‑볼록 꼬리에서도 정상적인 제안 분포를 구성한다는 점, (2) 다중모드와 비볼록 구간을 자연스럽게 처리한다는 점, (3) 제안 분포가 지수형 조각들의 혼합이므로 샘플링이 계산적으로 간단하다는 점이다. 단점은 q(x) 를 구간별로 적분·샘플링할 수 있어야 한다는 전제와, 마진 포텐셜과 변환 함수의 선택이 문제에 따라 달라질 수 있다는 점이다. 두 번째 알고리즘은 비율‑균등(Ratio‑of‑Uniforms, RoU) 방법을 기반으로 한다. RoU는 목표 밀도 q(x) 로부터 정의된 집합 A={ (v,u)∈ℝ² : 0≤u≤q(v/u) } 에서 균등하게 샘플링하면 x=v/u 가 q(x) 를 따르게 만든다. 목표 밀도가 1/x² 이상 빠르게 감소하면 A 가 유계가 되며, 이는 제안 분포를 구성하기에 적합하다. 기존 연구에서는 A 가 볼록일 때 삼각형 분할을 이용해 효율적인 샘플링을 수행했지만, 본 논문은 A 가 비볼록이더라도 겹치지 않는 삼각형(또는 다각형) 집합을 동적으로 생성한다. 초기에는 A 를 둘러싼 큰 직사각형 R 에서 균등 샘플링하고, 후보 점이 A 안에 있으면 수용한다. 거부된 경우 해당 직사각형을 세분화하거나 새로운 삼각형을 추가해 A 를 더 정밀하게 근사한다. 이 과정은 후보가 거부될 때마다 제안 영역을 개선하므로, 결국 A 로 수렴한다. 중요한 점은 (1) 제안 영역이 비볼록이더라도 삼각형 분할을 통해 균등 샘플링이 가능하다는 점, (2) 로그‑볼록 꼬리와 다중모드 모두를 자연스럽게 포함할 수 있다는 점, (3) 제안 분포가 단순히 직사각형이 아니라 여러 작은 삼각형들의 혼합이므로 acceptance rate 가 크게 향상된다는 점이다. 두 알고리즘 모두 수렴성을 보장한다. 첫 번째는 지원점이 무한히 추가되면 제안 밀도 \(\pi_t(x)\) 가 목표 밀도 p(x) 에서 상한을 이루어 acceptance rate 가 1에 수렴한다. 두 번째는 삼각형 집합이 A 를 완전히 덮을 때까지 반복하면, 제안 분포와 목표 분포가 동일해져 acceptance rate 가 1에 도달한다. 실험에서는 (i) 로그‑볼록 꼬리를 가진 비대칭 분포, (ii) 금융 분야의 변동성 모델처럼 복합적인 다중모드와 무한 지원을 갖는 분포 두 가지 사례를 사용했다. 비교 대상은 전통적인 ARS, ARMS, T‑concave 변환 기반 방법, 그리고 기존 RoU 기반 적응형 방법이다. 결과는 제안된 두 방법이 모두 평균 acceptance rate, 제안 횟수, 실행 시간 측면에서 현저히 우수함을 보여준다. 특히 두 번째 RoU 기반 방법은 꼬리 형태에 관계없이 일관된 성능을 유지했으며, 첫 번째 방법은 q(x) 를 적절히 선택했을 때 매우 높은 효율을 보였다. 결론적으로, 본 논문은 로그‑볼록 꼬리를 포함한 광범위한 단변량 확률밀도함수에 대해, 기존 ARS가 갖는 구조적 제한을 넘어서는 두 가지 실용적인 적응형 거부 샘플링 알고리즘을 제시한다. 이는 베이지안 추정, 입자 필터링, 몬테카를로 적분 등 다양한 확률론적 시뮬레이션 분야에서 기존 방법이 직면하던 제한을 해소하고, 높은 효율과 정확성을 동시에 제공한다. 향후 연구에서는 다변량 확장, 자동 변환 함수 선택, 그리고 실시간 시스템에의 적용 가능성을 탐색할 예정이다.