일반화된 가우시안 프로세스 모델을 위한 효율적 근사 추론 프레임워크

본 논문은 관측 가능도에 지수족(EFD)을 적용한 일반화된 가우시안 프로세스 모델(GGPM)을 제안하고, 라플라스, EP, 변분 및 새롭게 고안한 테일러 근사 등 네 가지 근사 추론 방법을 일반 형태로 정리한다. 파라미터만 바꾸면 포아송, 감마, 베타 등 다양한 출력 도메인에 맞는 GP 모델을 손쉽게 구축할 수 있음을 보이며, 비음수 실수와 구간 실수 회귀 모델을 새롭게 제시한다. 실험을 통해 각 추론 기법의 정확도·속도·안정성을 비교한다.

저자: Lifeng Shang, Antoni B. Chan

일반화된 가우시안 프로세스 모델을 위한 효율적 근사 추론 프레임워크
본 논문은 가우시안 프로세스(GP) 모델을 일반화한 “Generalized Gaussian Process Model”(GGPM)이라는 통합 프레임워크를 제안한다. GGPM은 관측 가능도를 지수족(EFD) 형태로 기술함으로써, 회귀, 분류, 카운팅 등 기존 GP 모델들을 하나의 수식 체계 안에 포함한다. 구체적으로, 관측 가능도는 \(p(y_i|f_i)=\exp\{\eta(f_i)^\top T(y_i)-A(\eta(f_i))\}\) 와 같이 정의되며, 여기서 \(\eta(\cdot)\)는 링크 함수, \(T(\cdot)\)는 충분통계, \(A(\cdot)\)는 로그 정규화항이다. 이 세 함수만 지정하면 포아송(카운팅), 감마(비음수 실수), 베타(구간 실수) 등 다양한 출력 분포를 손쉽게 적용할 수 있다. 논문은 먼저 GGPM의 수학적 정의와 기존 GP 모델들과의 관계를 정리한다. 이후 근사 추론 방법을 네 가지로 구분한다. 1. **라플라스 근사(LA)** – 로그 가능도의 2차 테일러 전개를 이용해 라플라스 근사의 핵심인 헤시안과 그라디언트를 지수족 파라미터로부터 직접 도출한다. 이는 기존 라플라스 방식과 동일하지만, 일반적인 EFD 파라미터만 알면 자동으로 적용 가능하도록 만든다. 2. **Expectation Propagation(EP)** – 각 데이터 포인트에 대한 사이트 팩터를 지수족의 모멘트 매칭 형태로 표현한다. EP 업데이트는 \(\mathbb{E}

원본 논문

고화질 논문을 불러오는 중입니다...

댓글 및 학술 토론

Loading comments...

의견 남기기