GP 없이도 빠른 베이지안 최적화: Epistemic Nearest Neighbors와 TuRBO‑ENN

초록

본 논문은 대규모 관측(N≈5만) 상황에서 기존 Gaussian Process 기반 BO의 O(N²)·O(N³) 병목을 극복하기 위해, K‑최근접 이웃을 활용한 Epistemic Nearest Neighbors(ENN) 서프라이즈를 제안한다. ENN은 평균과 불확실성(에피스테믹·알레아틱)을 O(N) 시간에 추정하며, 이를 TuRBO의 신뢰영역 프레임워크에 적용해 UCB 또는 비지배 정렬 기반 획득함수를 사용한다. 실험 결과, 제안 방법인 TuRBO‑ENN은 제안 시간에서 10~100배 가속화하면서도 최적화 품질을 기존 GP‑TuRBO와 동등하게 유지한다.

상세 분석

이 연구는 “많은 관측”(BOMO) 상황에서 베이지안 최적화가 직면하는 핵심 문제, 즉 Gaussian Process(GP) 서프라이즈의 하이퍼파라미터 학습이 O(N³) → O(N²) 수준으로 급격히 증가한다는 점을 정확히 짚어낸다. 기존의 스파스 GP, 벡터화된 근접 이웃 GP, 신경망·랜덤 포레스트 대체 모델 등은 추론 속도는 개선하지만, 불확실성 정량화가 부정확하거나 추가적인 튜닝 비용이 크게 든다. 저자는 이러한 한계를 극복하기 위해 Epistemic Nearest Neighbors(ENN)를 설계한다. ENN은 각 관측 (x_i, y_i, s_i)을 독립적인 추정치로 가정하고, K‑nearest neighbor를 찾아 거리 d(x, x_i)를 에피스테믹 분산 σ_e²의 근사값으로 사용한다. 알레아틱 분산은 관측 자체의 잡음 s_i와 전역 파라미터 s₀의 합으로 모델링한다. 평균은 K개의 이웃에 대해 정밀도 가중 평균(precision‑weighted average)을 적용해 최소 분산을 달성한다. 이 과정에서 모든 관측 간의 공분산 행렬을 구성할 필요가 없으며, Faiss 라이브러리를 이용한 최적화된 최근접 탐색으로 O(N log K) ≈ O(N) 복잡도를 유지한다.

하이퍼파라미터 (s₀, c_e)는 Type‑II MLE 기반 LOOCV 의사우도(log‑likelihood)를 최대화해 추정한다. 전체 N에 대해 LOOCV를 수행하면 O(N²) 비용이 발생하므로, 저자는 고정 크기 P(예: 200) 샘플을 무작위 추출해 근사값을 계산함으로써 O(P N) ≈ O(N)으로 비용을 제한한다. K는 실험 전 고정(K=10)하고, 이는 다양한 베치 테스트에서 충분히 좋은 성능을 보였다.

획득 단계에서는 기존 TuRBO의 Thompson Sampling을 대체한다. 잡음이 없는 경우, 제안점 선택을 위해 μ(x)와 σ(x)를 동시에 고려한 비지배 정렬(NDS)을 수행하고, 파레토 앞선 후보 중 무작위로 선택한다. 잡음이 존재하는 경우는 전통적인 Upper Confidence Bound(UCB) = μ + βσ를 사용한다. 이렇게 하면 매 BO 반복마다 서프라이즈와 획득을 모두 O(N) 시간에 수행할 수 있다.

이론적으로 저자는 ENN‑TuRBO가 Pseudo‑Bayesian Optimization(PBO) 프레임워크에 부합함을 증명한다. 즉, 서프라이즈가 편향이 없고, 불확실성 정량화가 일관되며, 획득 함수가 탐색‑활용 균형을 보장하면 수렴성을 얻는다. 실험에서는 12개의 표준 테스트 함수와 3개의 실제 시뮬레이션(엔지니어링 설계) 문제에 대해 N을 1 k에서 50 k까지 확대했으며, 제안 방법은 평균 제안 시간에서 1~2 오더의 감소를 보였다. 최적화 품질(최고 관측값)은 기존 GP‑TuRBO와 통계적으로 유의미한 차이가 없었으며, 특히 고차원(>10) 문제에서도 경쟁력을 유지했다.

결과적으로 ENN은 “경량·선형” 서프라이즈를 제공하면서도 에피스테믹·알레아틱 불확실성을 동시에 모델링한다는 점에서 기존 근접 이웃 GP와 차별화된다. 또한 하이퍼파라미터 튜닝 비용을 최소화하고, 신뢰영역 기반 탐색과 결합해 대규모 BO에 실용적인 솔루션을 제시한다.