상관 설계에 강한 트레이스 라쏘: 새로운 정규화 기법

본 논문은 고차원 회귀 문제에서 설계 행렬의 강한 상관관계가 존재할 때 기존 L1 기반 라쏘(Lasso)가 보여주는 선택 불안정성을 극복하기 위해 새로운 정규화 기법인 “트레이스 라쏘(Trace Lasso)”를 제안한다. 1. **배경 및 기존 방법** - L1 정규화는 희소성을 촉진하지만, 상관된 변수들 사이에서 하나만 무작위로 선택하는 경향이 있다. - L2(릿지) 정규화는 변수들을 동시에 축소해 안정성을 제공하지만 변수 선택을 하지 못한다. - Elastic Net은 L1과 L2를 가중합해 두 장점을 절충하지만, 상관구조를 명시적으로 반영하지 못한다. - 그룹 라쏘는 사전 정의된 그룹에 대해 공동 선택을 가능하게 하지만, 그룹 정보를 사전에 알아야 하는 제약이 있다. 2. **트레이스 라쏘 정의** - 설계 행렬 \(X\in\mathbb{R}^{n\times p}\)와 가중치 벡터 \(w\)에 대해 \(X\operatorname{Diag}(w)\)를 구성하고, 그 트레이스 노름 \(\|X\operatorname{Diag}(w)\|_*\)을 정규화 항 \(\Omega(w)\)로 정의한다. - 이 정규화는 선택된 변수들이 생성하는 서브스페이스의 차원(=행렬 랭크)을 측정하는데, 랭크의 볼록 대리함수인 트레이스 노름을 사용함으로써 계산 가능성을 확보한다. - 특수 경우: (i) 변수들이 서로 직교이면 \(\Omega(w)=\sum_i \|X^{(i)}\|_2|w_i|\) 로 L1과 동일, (ii) 모든 변수가 동일하면 \(\Omega(w)=\|X^{(1)}\|_2\|w\|_2\) 로 L2와 동일. 따라서 데이터 상관구조에 따라 자동으로 두 극단을 보간한다. 3. **수학적 성질** - 손실 함수가 강볼록이면, 트레이스 라쏘를 포함한 목적함수는 유일한 최소점을 가진다(정리 1). - \(\Omega(w)\)는 \(\|w\|_2 \le \Omega(w) \le \|w\|_1\) 를 만족해 L2와 L1 사이에 위치한다(정리 3). - 정규화는 \(P\) 행렬을 일반화한 \(\Omega_P(w)=\|P\operatorname{Diag}(w)\|_*\) 형태로 확장 가능하며, L1, L2, 그룹 라쏘 등을 특수 경우로 포함한다(정의 1, 정리 2). - 이 패밀리의 듀얼 노름은 일반적으로 닫힌 형태를 갖지 않지만, \(\Omega_P^*(u) \le \|P\operatorname{Diag}(u)\|_{op}\) 로 상한을 제공한다(정리 4). 4. **최적화 알고리즘** - 트레이스 노름의 변분 표현 \(\|M\|_* = \frac12\inf_{S\succ0}\operatorname{tr}(M^\top S^{-1}M)+\operatorname{tr}(S)\) 를 이용해 변수 \(w\)와 보조 변수 \(S\)를 번갈아 최소화한다. - \(S\)는 현재 \(w\)에 대해 \((X\operatorname{Diag}(w)) (X\operatorname{Diag}(w))^\top\) 의 고유값 분해를 통해 \(\bigl(X\operatorname{Diag}(w)^2 + \mu I\bigr)^{1/2}\) 로 업데이트한다. - \(w\) 업데이트는 가중치 행렬 \(D = \operatorname{Diag}\bigl(\operatorname{diag}(X^\top S^{-1}X)\bigr)\) 를 사용해 \((X^\top X + \lambda D)w = X^\top y\) 라는 선형 시스템을 푼다. - 이 시스템은 공액 그라디언트(conjugate gradient) 방법으로 \(O(np)\) 연산 복잡도 내에 해결 가능하며, warm‑restart 전략을 통해 반복 횟수를 크게 줄일 수 있다. 5. **실험 및 결과** - 블록 대각, 토플리츠, 클러스터형 상관 구조를 가진 합성 데이터셋을 구성하고, 트레이스 라쏘, Elastic Net, 표준 라쏘, 그룹 라쏘를 비교하였다. - 강한 상관관계가 존재할 때 트레이스 라쏘는 변수 선택의 일관성이 크게 향상되어 동일한 실험 반복에서도 선택된 변수 집합이 안정적이었다. - 예측 정확도(RMSE) 측면에서도 트레이스 라쏘는 기존 방법과 동등하거나 약간 우수한 결과를 보였으며, 특히 상관구조가 복잡한 경우에 그 차이가 두드러졌다. - 파라미터 튜닝 측면에서 트레이스 라쏘는 정규화 강도 \(\lambda\) 하나만 조정하면 되므로, Elastic Net이 요구하는 두 개의 하이퍼파라미터보다 실용성이 높다. 6. **결론** - 트레이스 라쏘는 설계 행렬의 상관구조를 직접 활용해 모델 복잡도를 측정함으로써, L1과 L2 정규화의 장점을 자동으로 결합한다. - 유일한 최소점 보장, 효율적인 가중치 재조정 최소제곱 알고리즘, 그리고 실험을 통한 성능 검증을 통해 고상관 데이터 환경에서 강력한 대안임을 입증하였다. - 향후 연구에서는 이론적 일반화 오차 경계, 비선형 모델에의 확장, 그리고 실제 대규모 유전체·이미지 데이터에 대한 적용을 탐색할 계획이다.