회전 데이터의 대수적 분석과 호몰로직 최적화

본 논문은 회전 행렬 표본을 대상으로 하는 통계적 추정 문제를 대수적 분석, 특히 D‑모듈 이론과 비가환 Gröbner 기법을 통해 해결한다. 1. **서론**에서는 다변량 통계 함수가 호몰로직이라는 사실을 강조하고, 이를 Weyl 대수의 좌이데알로 표현함으로써 대수기하학적 도구를 적용할 수 있음을 소개한다. 기존 일본 학자들의 Holonomic Gradient Method(HGM)와 Holonomic Gradient Descent(HGD)를 기반으로, 회전군 SO(n)에서의 Fisher 분포에 대한 새로운 접근법을 제시한다. 2. **Fisher 모델**에서는 회전군 SO(3)의 Haar 측정에 대한 확률밀도 f_Θ(Y)=c(Θ)^{-1}exp(tr(ΘᵀY))를 정의하고, 정규화 상수 c(Θ) 를 특이값 분해 Θ=Q·diag(x₁,x₂,x₃)·R 로 축소한다. 샘플 평균 \bar Y 의 특이값 g₁≥g₂≥g₃를 충분통계량으로 이용해 로그우도 ℓ(x)=x·g−log \tilde c(x) 를 얻는다. ℓ는 엄격히 볼록하므로 전역 최적점이 존재한다. 3. **호몰로직 표현**에서는 정규화 상수 \tilde c(x₁,x₂,x₃) 가 만족하는 6개의 선형 편미분 연산자 G_i, L_{ij}를 도출하고, 이들로 생성된 D‑이데알 I 를 정의한다. Singular/Plural을 이용한 Gröbner 계산으로 I 가 호몰로직이며 차원이 4임을 확인한다. 초기 아이디얼을 구해 표준 모노미얼 {1,∂₁,∂₂,∂₃} 를 얻고, 이를 기반으로 Pfaffian 시스템 ∂_i C = P_i C (i=1,2,3) 를 구성한다. P_i 행렬은 rational functions 로 명시되어 있어, \tilde c와 그 1차·2차 도함수를 효율적으로 재귀적으로 계산할 수 있다. 4. **Weyl 폐쇄와 확장**에서는 I 가 Weyl‑closed가 아님을 보이고, 추가 연산자 x₁∂₁∂₃+…+2∂₃ 를 포함한 W(I) 를 구한다. 이는 D‑모듈의 완전성을 확보하고, 해 공간이 실제 분석에 충분히 포괄적임을 보장한다. 5. **SO(n) 일반화**에서는 Koyama와 Sei 등 이전 연구를 바탕으로 n×n 매개변수 Θ에 대한 정규화 상수 c(Θ) 의 소거 이데알 J 를 제시한다. 여기에는 det(∂)‑1, g_{ij}=δ_{ij}−∑_k ∂_{ik}∂_{jk}, P_{ij}=∑_k(t_{ik}∂_{jk}−t_{jk}∂_{ik}) 가 포함된다. O(n)‑불변 형태 J₀ 를 도입하고, Luna 정리와 불변 이론을 이용해 해가 Θ↦φ(y_{ij}(Θ)) 형태임을 증명한다. y_{ij}= (ΘᵀΘ)_{ij} 라는 대칭 행렬 원소를 변수로 하는 Weyl 이데알 K 를 정의하고, rank(K)=2·rank(J) 를 얻는다. 이는 차원 축소를 통한 계산 효율성을 의미한다. 6. **수치 알고리즘**에서는 Pfaffian 시스템을 활용한 세 가지 최적화 방법을 구현한다. (a) Holonomic Gradient Ascent(HGA) – 1차 정보만 사용, (b) Holonomic BFGS(H‑BFGS) – 제한된 메모리 2차 정보, (c) Holonomic Newton – 완전 2차 정보. 모두 R 패키지로 제공되며, 특이값이 1에 가까운 고농도 데이터에서도 안정적인 수렴을 보인다. 7. **응용 사례**에서는 재료과학(결정 구조), 지질학(암석의 회전), 천문학(은하 회전), 생체역학(심장 전기축) 등 다양한 분야의 실제 회전 행렬 데이터를 분석한다. 각 사례에서 충분통계량 g₁,g₂,g₃ 를 추출하고, 제안된 알고리즘으로 Θ̂ 를 추정한다. 결과는 기존 방법 대비 정확도와 계산 속도에서 우수함을 입증한다. 8. **이론적 기여**는 두 가지 측면에서 강조된다. 첫째, Fisher 모델의 정규화 상수를 완전한 D‑모듈로 기술함으로써 대수적·해석적 성질을 명확히 했다. 둘째, Weyl 폐쇄와 불변 이데알을 이용해 임의의 콤팩트 리군으로 일반화했으며, 이는 representation theory와 D‑module 이론 사이의 새로운 연결 고리를 제공한다. 결론적으로, 이 논문은 회전 데이터 분석에 필요한 정규화 상수의 정확한 계산을 가능하게 하고, 호몰로직 기반 최적화 기법을 통해 실용적인 MLE를 제공한다. 또한, 대수적 구조를 이용한 차원 축소와 일반화는 향후 복잡한 곡면 위 확률 모델에 대한 연구에 중요한 토대를 제공한다.