커널 리지 회귀로 최적·구조 적응형 CATE 추정

**1. 연구 배경 및 문제 정의** 조건부 평균 치료 효과(CATE)는 개인화된 정책 결정에 핵심적인 역할을 하지만, 관측 데이터만으로 정확히 추정하기는 어렵다. 특히 베이스라인 반응 함수 f*_0, f*_1가 고차원·비선형·노이즈가 많은 경우가 많아, 전통적인 이중 강인 추정기(Double Machine Learning, DML)는 두 넙시스 함수의 추정 정확도가 곱 형태로 전체 오류에 영향을 미쳐 비효율적이다. 최근 연구는 CATE 자체가 더 단순한 구조(예: 부드러움, 희소성, 저차원 표현)를 가질 수 있음을 관찰했으며, 이를 활용해 빠른 수렴률을 얻는 것이 목표다. **2. 모델링 가정** 논문은 세 가지 구조적 가정을 제시한다. - **모델 1 (Subspace)**: 대비 함수 h*가 F보다 스펙트럼이 빠르게 감소하는 RKHS H에 속한다. 예를 들어, F=H_β Sobolev, H=H_γ Sobolev (γ>β) 혹은 H가 유한 차원 다항식 공간인 경우. - **모델 2 (Source Condition)**: h*가 F의 정수 연산자 T_F에 대해 소스 조건 h*∈Range(T_F^{(1+ν)/2})를 만족한다. 이는 h*가 F에 비해 프랙셔널 부드러움을 가진다는 의미이며, ν이 클수록 H가 더 단순해진다. - **모델 3 (Low‑Dimensional Structure)**: 존재하는 저차원 변환 Φ(x)=˜x와 RKHS ˜H에 대해 h*(x)=˜h*(˜x). 여기서 ˜x∈ℝ^{d̃}, d̃≪d이며, ˜H는 일반적인 Sobolev 혹은 NTK와 같은 커널을 사용한다. 이러한 가정은 모두 “대비 함수의 복잡도는 넙시스 함수보다 낮다”는 공통된 핵심을 갖는다. **3. 이론적 목표** 목표는 (i) 최소극대(minimax) 하한에 도달하는 수렴률을 달성하고, (ii) 그 속도가 H의 복잡도에만 의존하도록 하는 것이다. 구체적으로, L2 위험은 LB‑L2(nκ;H)≈(nκ)^{−2γ/(d+2γ)}(Sobolev 경우)와 일치하고, 점별 위험은 LB‑PE(nκ;H)≈(nκ)^{−(2γ−d)/(2γ)}와 일치한다. 여기서 κ는 오버랩 파라미터이며, nκ는 “유효 샘플 크기”를 의미한다. **4. 알고리즘 설계** 알고리즘은 두 단계로 구성된다. 1) **언더스무딩된 KRR을 통한 넙시스 추정** - 각각의 치료군 a∈{0,1}에 대해 KRR을 수행한다. - 정규화 λ̄는 매우 작은 값(O(log n/n))을 사용해 편향을 최소화한다. 이는 추정된 f̂_a가 실제 f*_a와 거의 동일하게 되지만, 분산이 커질 수 있다. 2) **스위치‑임퓨테이션 기반 pseudo‑outcome 생성 및 대비 회귀** - 관측된 치료 상태에 따라 pseudo‑outcome m_i를 정의한다. - m_i는 실제 잠재 결과 y_i(a)와 추정된 반대군 평균 f̂_{1−a}(x_i) 사이의 차이로, 기대값이 h*(x_i)와 일치한다. - 생성된 {m_i, x_i}를 사용해 H에 대한 KRR을 수행한다. 여기서 정규화 λ는 H의 복잡도에 맞게 선택한다(예: λ≈n^{−2γ/(d+2γ)}). **5. 이론적 분석** - **오차 분해**: 전체 위험은 (i) 넙시스 추정 편향·분산, (ii) pseudo‑outcome 생성 시 발생하는 1차 편향, (iii) 최종 KRR 회귀의 편향·분산으로 나뉜다. 언더스무딩을 통해 (i)와 (ii)의 편향을 O(λ̄) 수준으로 억제하고, (iii)에서는 H의 고유값 감소율에 따라 최적 λ를 선택해 최소극대 속도를 얻는다. - **최소극대 하한 매칭**: Lemma 1에서 제시한 하한은 “오버랩이 약해도 nκ만큼의 샘플이 효과적으로 사용된다”는 점을 이용해 증명한다. 제안 알고리즘은 이 하한을 정확히 달성함을 Theorem 1에서 보인다. - **모델 선택 및 적응**: 후보 집합 {H_j, λ_j}에 대해 교차 검증 형태의 위험 추정량을 계산하고, 최소값을 선택한다. Theorem 2는 선택된 모델이 오라클 부등식 E