가법적 가우시안 프로세스로 보는 고차원 상호작용 모델링
본 논문은 입력 변수의 부분집합에만 의존하는 저차원 함수들의 합으로 표현되는 가법적 함수를 모델링하기 위해, 차수별 가중치를 갖는 새로운 커널을 도입한 가법적 가우시안 프로세스(Additive GP)를 제안한다. 베이지안 계층적 커널 학습(HKL)과 연결시키면서, 모든 차수의 상호작용을 다항식 형태로 효율적으로 계산하고, 차수별 분산 하이퍼파라미터를 통해 해석 가능성과 예측 성능을 동시에 향상시킨다.
저자: David Duvenaud, Hannes Nickisch, Carl Edward Rasmussen
본 논문은 “가법적 가우시안 프로세스(Additive Gaussian Processes)”라는 새로운 확률적 모델을 제시한다. 가법 함수는 전체 함수가 입력 변수의 부분집합에만 의존하는 저차원 함수들의 합으로 분해될 수 있다는 점에서, 기존의 Generalized Additive Models(GAM)과 전역적인 Squared‑Exponential Gaussian Process(SE‑GP)를 각각 특수 경우로 포함한다. 저자는 이러한 두 극단을 연결하는 커널을 설계하고, 이를 통해 차수별(1차, 2차, …, D차) 상호작용을 모두 고려하면서도 파라미터 수를 O(D) 로 제한하는 효율적인 구조를 만든다.
1. **가법 커널 정의**
각 차원 i에 대해 1차 베이스 커널 k_i(x_i, x_i′) (예: 1차 SE 커널)를 정의한다. n차 가법 커널은 모든 n개의 차원을 선택한 곱의 합으로 표현된다:
k_addⁿ(x, x′) = σ_n² ∑_{1≤i₁<…
원본 논문
고화질 논문을 불러오는 중입니다...
댓글 및 학술 토론
Loading comments...
의견 남기기