신뢰분포를 이용한 FIC 점수 평가와 새로운 모델 선택 도구

본 연구는 Focused Information Criterion(FIC)을 이용한 모델 선택 과정에서 발생하는 추정 불확실성을 체계적으로 다루고자 한다. 전통적인 FIC 플롯은 각 후보 모델의 추정값 b μ_S와 해당 추정값의 루트‑Mean‑Squared‑Error(루트‑FIC) 점수를 x‑축과 y‑축에 배치해 시각화한다. 그러나 이러한 플롯은 각 점 자체가 갖는 표준오차와 편향을 무시하고, 오직 점의 위치만을 비교한다는 한계가 있다. 특히, 모델이 작을수록 편향이 커질 가능성이 높고, 반대로 모델이 크면 분산이 증가한다는 전형적인 편향‑분산 트레이드오프가 존재한다. 따라서 “베스트 모델”이라고 판단된 모델이 실제로 위험(risk)이 유의하게 낮은지 여부를 판단하기 위해서는 각 점과 점수에 대한 불확실성을 동시에 고려해야 한다. 이를 위해 저자들은 각 후보 모델 추정량의 asymptotic distribution을 기반으로 신뢰분포(confidence distribution, CD)를 구축한다. 핵심은 마스터 정리(2.4‑2.5)로, 넓은 모델의 추가 파라미터 추정 D_n = √n( b γ_wide − γ₀ )가 N_q(δ,Q)로 수렴하고, 관심 파라미터 추정 √n( b μ_S − μ_true )가 평균 ωᵀ(δ − G_S D)와 분산 τ₀² + ωᵀG_S Q G_Sᵀω을 갖는 정규분포에 수렴한다는 점을 보인다. 여기서 - γ₀는 넓은 모델에서의 ‘null’ 파라미터, - δ는 로컬 확장 파라미터(γ − γ₀)·√n, - Q는 Fisher 정보 행렬의 블록 행렬을 이용해 정의된 q×q 공분산, - ω는 관심 파라미터와 확장 파라미터 사이의 민감도, - τ₀²는 좁은 모델 내 파라미터에 대한 변동성, - G_S는 모델 S에 포함된 확장 파라미터를 선택하는 행렬(0/1 인디케이터 기반)이다. 위 식으로부터 각 모델의 평균제곱오차(mse_S) = var_S + bias_S²가 도출된다. var_S = τ₀² + ωᵀG_S Q G_Sᵀω, bias_S = ωᵀ(I − G_S)δ. 이론적 mse_S를 실제 데이터에 적용하기 위해 두 가지 추정량이 제시된다. 1. FIC_u (unbiased): var_S + ωᵀ(I − G_S)(DDᵀ − Q)(I − G_S)ᵀω, 2. FIC_t (truncated): var_S + max{ωᵀ(I − G_S)(DDᵀ − Q)(I − G_S)ᵀω, 0}. FIC_u는 편향 제곱을 직접 추정하지만, δ가 0에 가깝다면 음수 편향이 발생할 수 있다. 따라서 실제 적용에서는 음수를 0으로 절단한 FIC_t가 기본 선택으로 권장된다. 실제 데이터에서는 넓은 모델의 최대우도 추정값을 이용해 Hessian 행렬 Ĵ_wide를 계산하고, 이를 정규화해 Ĵ를 얻는다. Ĵ의 오른쪽 아래 블록이 Q̂이며, ω̂와 τ̂₀²도 동일한 방식으로 일관적으로 추정한다. D_n은 (2.4)에서 정의된 대로 b γ_wide − γ₀에 √n을 곱해 구한다. 이렇게 얻은 추정량들을 식 (2.8)‑(2.9)에 대입해 루트‑FIC 점수를 구한다. 핵심적인 새로운 제안은 이러한 추정량들의 전체 분포를 신뢰분포 형태로 표현하고, 이를 시각화한 CD‑FIC 플롯이다. CD‑FIC 플롯은 각 모델의 추정값에 대한 신뢰구간(수직 방향)과 루트‑FIC 점수에 대한 신뢰구간(수평 방향)을 동시에 표시한다. 이를 통해 “베스트 모델”이 실제로 다른 모델과 통계적으로 구별되는지, 혹은 겹치는 구간이 존재해 선택이 불확실한지를 직관적으로 파악할 수 있다. 편향 추정의 불확실성을 보다 견고하게 다루기 위해 저자들은 quantile‑FIC라는 새로운 도구를 도입한다. 여기서는 mse_S를 직접 추정하는 대신, 해당 추정량의 신뢰분포에서 특정 분위수(예: 0.5‑median, 0.75‑quantile)를 사용한다. 특히 median‑FIC은 δ≈0인 경우 편향 추정이 과도하게 음수로 보정되는 문제를 완화한다. quantile‑FIC는 편향과 분산을 동시에 고려하면서도, 분위수 기반이므로 추정량의 비대칭성을 자연스럽게 반영한다. 이러한 quantile‑FIC를 가중치로 활용한 모델 평균화 방법도 제시된다. 각 모델에 대해 median‑FIC_S와 선택된 quantile‑FIC_S를 계산하고, 가중치 w_S를 w_S ∝ 1 / (median‑FIC_S + quantile‑FIC_S) 와 같이 정의한다. 최종 모델 평균 추정량은 Σ w_S b μ_S 로 구한다. 저자들은 이 가중치가 기존 post‑FIC, AIC 기반 가중치보다 평균 위험이 낮으며, 특히 후보 모델 수가 많을 때 안정적인 성능을 보인다고 이론적 증명과 시뮬레이션을 통해 입증한다. 실증 사례는 두 부분으로 구성된다. 첫 번째는 189명의 산모·신생아 데이터를 이용한 로지스틱 회귀 예시이다. 여기서는 3개의 ‘열린’ 공변량(z₁: 흡연 여부, z₂·z₃: 인종 지표)을 포함·제외하는 2³=8개의 서브모델을 고려한다. 각 모델에 대해 b p (소아 저체중 확률 추정치)와 루트‑FIC 점수를 구하고, CD‑FIC 플롯을 통해 모델 000과 010이 가장 신뢰도 높으며, 흡연 여부가 바뀔 경우 모델 순위가 크게 변한다는 점을 보여준다. 두 번째는 73개 섬의 조류 종 풍부도 데이터를 이용한 다변량 포아송 회귀 예시이다. 여기서는 후보 모델 수가 2³⁰ 이상으로 급증하지만, CD‑FIC와 quantile‑FIC 기반 모델 평균화가 여전히 계산 가능하고, 평균 위험을 크게 감소시킨다. 마지막으로 논문은 기존 FIC 문헌을 정리하고, 제안된 CD‑FIC, quantile‑FIC, 모델 평균화가 실제 분석에서 어떻게 적용될 수 있는지, 그리고 향후 연구 방향(예: 고차원 설정, 베이지안 확장) 등을 논의한다. 전체적으로 이 연구는 FIC 기반 모델 선택에 불확실성 정량화를 도입함으로써, 모델 선택과 평균화 과정에서 보다 신뢰할 수 있는 결정을 지원한다.