클리핑 기반 확률경사법의 고확률 수렴률을 고도화한 새로운 차원 개념

1. **연구 배경 및 동기** 머신러닝·딥러닝 실무에서 관측되는 그래디언트 노이즈는 종종 2차 모멘트가 무한하거나 매우 큰 헤비테일 특성을 보인다. 기존 확률경사법(SGD)은 유한 분산(σ²) 가정 하에 기대값 수렴률 O(σ T^{-1/2}) 등을 보장하지만, p‑차 모멘트(1 < p ≤ 2)만 유한한 경우에는 수렴이 급격히 악화된다. 최근 연구들은 이러한 상황을 다루기 위해 그래디언트 클리핑을 도입했으며, Clipped SGD가 고확률 수렴률 O(σ_l ln(1/δ) T^{1/p‑1})(비강체)와 O(σ_l² ln²(1/δ) T^{2/p‑2})(강볼록)를 달성한다는 결과를 제시했다. 그러나 이 결과는 차원 d와 노이즈 구조를 충분히 활용하지 못하고, 로그 항이 과도하게 보수적이며, 시간 horizon T 를 사전에 알아야 하는 제약이 있다. 2. **핵심 기여** - **일반화된 효과 차원(d_eff) 도입**: 노이즈의 방향별 p‑차 모멘트 상한 σ_s와 전체 p‑차 모멘트 상한 σ_l을 이용해 d_eff := σ_l²/σ_s² 로 정의한다. 이는 기존 p=2 경우의 effective dimension을 일반 p 로 확장한 것으로, d_eff ∈