리시즈 대표자 직접 추정의 두 접근법 비교
본 논문은 반데즈(리시즈) 대표자를 직접 추정하는 두 주요 문헌—자동 디바이즈드 머신러닝(Chernozhukov et al., 2022b)과 조건부 모멘트 모델을 위한 시브 방법(Chen et al., 2014)—이 제시하는 최적화 문제를 비교한다. 선형·시브·RKHS 모델에서는 무규제 혹은 ℓ₂(릿지) 규제가 적용될 때 두 접근법이 수치적으로 동일함을 증명하고, ℓ₁(Lasso)이나 신경망 등 비선형 머신러닝 클래스에서는 차이가 발생한다는 점…
저자: David Bruns-Smith
본 논문은 반데즈(리시즈) 대표자라는 핵심 개념을 직접 추정하는 두 주요 문헌—자동 디바이즈드 머신러닝(Chernozhukov et al., 2022b)과 조건부 모멘트 모델을 위한 시브 방법(Chen et al., 2014)—이 제시하는 최적화 문제를 체계적으로 비교·통합한다. 리시즈 대표자는 Hilbert 공간 H 내에서 연속 선형 함수 L(h)를 만족하는 α₀ ∈ H 로, L(h)=⟨h,α₀⟩ 를 만족한다. 이 α₀는 두 문헌이 각각 제시한 최적화 문제의 해로 정의된다.
첫 번째 접근법은 Sugiyama et al. (2010)과 Chernozhukov et al. (2022b)에서 사용된 “Riesz loss” 형태이며, α₀ = arg min_{α∈H}{‖α‖² − 2L(α)} 로 정의된다. 두 번째 접근법은 Chen et al. (2014)과 Chen & Pouzo (2015)에서 제시된 Rayleigh‑quotient 형태로, ‖α₀‖² = max_{α≠0}{L(α)²/‖α‖²} 로 표현된다. 두 문제는 이론적으로 동일한 α₀를 공유하지만, 샘플 수준에서 구현 방식이 다르다.
논문은 먼저 선형 사전(Φ) 기반의 구체적 설정을 도입한다. 관측값 X₁,…,X_n 에 대해 Φ∈ℝ^{n×d} 를 ϕ(x) 의 행렬 형태로 정의하고, ˆL(Φ)=̂E
원본 논문
고화질 논문을 불러오는 중입니다...
댓글 및 학술 토론
Loading comments...
의견 남기기