개별 수열에서의 밀도 추정과 일관성 한계

1. **서론 및 배경** - 전통적인 밀도 추정은 i.i.d. 혹은 마코프와 같은 확률 모델을 전제로 한다. 그러나 실제 데이터는 이러한 가정이 깨질 수 있다. - 최근 정보이론·학습이론에서 “개별 수열”에 대한 분석이 활발히 진행되고 있다. 본 논문은 이러한 흐름에 맞추어, 확률적 가정 없이도 밀도 추정이 가능한지를 탐구한다. 2. **정의와 기본 개념** - **정상 수열(Stationary sequence)**: 무한 수열 x₁,x₂,… 이 어떤 확률밀도 f에 대해 상대 빈도 ˆµₙ(A)=n⁻¹∑_{i≤n}1_{x_i∈A} 가 µ_f(A)=∫_A f(x)dx 로 수렴하면 정상이라고 정의한다. - **변동성 제한**: α:ℕ→(0,∞) 라는 비감소 함수가 주어지고, f∈F(α) ⇔ V(f:−i,i)<α(i) ∀i≥1. 여기서 V는 총 변동량이다. - **추정기(Estimation scheme)**: φ_n : ℝⁿ→ℝ 로 정의된 함수들의 집합이며, φ_n(x₁,…,x_n) 를 f̂_n 로 해석한다. 3. **제안된 히스토그램 추정법** - dyadic partition π_k 로 구간 A_{k,j}=