자연 순서 변수를 위한 중첩 라쏘 기반 대규모 공분산 행렬 추정

1. 서론 고차원 데이터에서 공분산 행렬 Σ 혹은 그 역행렬 Σ⁻¹을 추정하는 문제는 차원(p)이 표본수(n)보다 클 때 심각한 불안정성을 보인다. 기존 방법으로는 스테인 축소(리드윗·울프), 선형 결합, 그리고 희소성을 강제하는 L₁ 패널티 기반 그래프 라쏘가 있다. 그러나 변수에 자연스러운 순서(시간, 공간 등)가 존재하면, 멀리 떨어진 변수들 간 상관관계가 약하다는 가정 하에 행렬을 밴드 형태로 제한하는 것이 효과적이다. Bickel & Levina(2004, 2007)는 Σ 자체 혹은 Σ⁻¹의 Cholesky 요인 T에 밴드드 구조를 적용하고, 교차 검증으로 밴드폭을 선택하는 방법을 제안했지만, 모든 행에 동일한 밴드폭을 강제하면 유연성이 부족하다. Huang et al.(2006)은 T에 L₁ 라쏘를 적용해 임의 위치에 0을 만들었지만, 결과적으로 Σ⁻¹이 희소해지지 않아 그래프 해석에 한계가 있다. 2. 방법론 2.1. Cholesky 분해와 회귀 해석 X = (X₁,…,X_p)ᵀ 를 평균 0, 공분산 Σ를 갖는 랜덤 벡터라 하자. X₁ = ε₁, X_j = Σ_{l=1}^{j-1} φ_{j,l} X_l + ε_j (j≥2) 로 표현하면, Φ = (φ_{j,l})는 하삼각 행렬이며 T = I – Φ. 그러면 Σ = T⁻¹ D (T⁻¹)ᵀ, Σ⁻¹ = Tᵀ D⁻¹ T 로 쓸 수 있다. 여기서 D는 잔차분산을 대각선에 둔 행렬이다. 2.2. 중첩 라쏘 패널티 정의 전통적인 L₁ 패널티 P(φ_j)=∑|φ_{j,l}|는 각 계수를 독립적으로 제약한다. 저자는 다음과 같은 중첩 구조를 제안한다. J₀(φ_j)=λ