가우시안 프로세스로 구현한 무한 차원 합의 기반 전역 최적화

본 논문은 Sobolev 공간에서 정의되는 전역 최적화 문제를 해결하기 위한 새로운 알고리즘을 제안한다. 기존의 합의 기반 최적화(CBO) 방법은 유한 차원 ℝᵈ에서만 이론적·실용적 기반을 갖고 있었으며, 무한 차원 함수 공간으로의 확장은 여러 난관을 동반한다. 저자들은 이러한 난관을 가우시안 프로세스(GP)의 풍부한 이론적 도구를 활용함으로써 극복한다. 먼저, 문제 설정을 명확히 한다. 함수 공간 U는 측정 가능한 GP의 샘플 경로로 표현 가능하며, 목표는 비볼록 함수 f:U→ℝ의 전역 최소값을 찾는 것이다. 특히, U는 정수 차수 m와 p∈(1,∞)를 갖는 Sobolev 공간 W^{m,p}(D) 로 가정하고, p=2인 경우 Hilbert 구조와 재생 커널 힐베르트 공간(RKHS) 사이의 직접적인 연관성을 이용한다. 다음으로 GP의 핵심 특성을 정리한다. 커널 함수 k(x,x′)는 평균 제곱 미분 가능성을 결정하며, Matérn 커널은 ν 파라미터를 통해 H^m 정규성을 조절한다(예: ν=3/2 → H¹, ν=5/2 → H²). 또한, GP는 마진화 특성을 갖는데, 이는 무한 차원 변수 중 일부만 관측해도 전체 분포를 정확히 계산할 수 있음을 의미한다. 이 특성을 이용해 함수의 유한 차원 투사(격자 X)만을 다루면서도 원래 무한 차원 GP의 통계적 특성을 보존한다. 알고리즘 설계는 CBO의 연속 동역학을 함수 공간으로 옮긴다. 각 에이전트 i는 시간 단계 j에서 함수 U_i^j∈U를 보유한다. 가중 평균 v_α^f(U^j)는 전통적인 CBO와 동일하게 비용 함수에 대한 지수 가중 평균으로 정의된다. 업데이트 식은 U_i^{j+1}=U_i^j−λ(U_i^j−v_α^f)τ+√(2τ)‖U_i^j−v_α^f‖·ξ_i^j, 여기서 ξ_i^j는 동질적인 사후 GP(GP_0)에서 샘플링된 노이즈 함수이다. 등방성 노이즈를 선택함으로써 함수 전체에 동일한 스케일의 확산을 부여하고, 정규성 손실을 방지한다. 제약 조건(초기값, 경계값, 상태 제약)은 GP를 사후분포(GP_c)로 조건화함으로써 초기 샘플 단계부터 만족하도록 만든다. 즉, U_i^0∼GP_c(m,k,θ)이며, 이는 베이즈 규칙 p(y₁|y₂)=N(a+BC^{-1}(y₂−b),A−BC^{-1}Bᵀ) 형태로 구현된다. 이렇게 하면 제한된 데이터 포인트에 대한 조건을 만족하는 함수만이 탐색 공간에 포함된다. 구현 단계에서는 함수들을 격자 X에 투사한다. 커널 k를 X에 대해 평가하면 평균 벡터 m|X와 공분산 행렬 k|X가 얻어지고, 이는 다변량 정규분포 N(m|X, k|X+σ²I) 로 샘플링된다. 따라서 알고리즘은 전형적인 선형 대수 연산(행렬 분해, 샘플링)만으로 구현 가능하며, 복잡도는 에이전트 수 N과 격자 포인트 수 P에 따라 결정된다. 수치 실험은 세 가지 주요 사례를 포함한다. 첫째, 비선형 p‑Allen‑Cahn 방정식에 대한 경계값 제약 문제에서, GP‑CBO는 제약을 만족하는 해를 빠르게 찾아낸다. 둘째, 비선형 ODE 기반 최적 제어 문제에서는 비용 함수가 복합적인 동역학 오차와 제어 비용을 포함함에도 전역 최소값에 수렴한다. 셋째, 상호작용 입자 시스템을 제어하는 최적화 문제에서는 다중 에이전트가 공동으로 최적 정책을 학습한다. 모든 실험에서 등방성 노이즈를 사용한 경우가 점별 곱셈 노이즈보다 수렴 속도와 정밀도에서 우수함을 보였다. 논문의 기여는 다음과 같다. (1) 무한 차원 Sobolev 공간에 대한 전역 최적화 프레임워크를 제시하고, (2) GP를 이용해 제약 조건을 자연스럽게 포함시키는 방법을 제공하며, (3) 마진화 특성을 활용한 효율적인 이산화 기법을 개발하였다. 한편, 현재는 수렴 이론이 완전히 증명되지 않았으며, 커널 및 파라미터 선택에 대한 자동화된 가이드라인이 부족한 점이 남아 있다. 향후 연구에서는 확률적 수렴 분석, 적응형 커널 학습, 고차원 복합 제약 문제에 대한 확장 등을 다룰 필요가 있다.