혼합 선형 모델에서 소표본 검정을 위한 Bartlett 보정과 Cox‑Reid 조정

본 논문은 반복 측정 데이터를 분석하는 데 널리 쓰이는 혼합 선형 모델(Mixed Linear Model, MLM)의 고정 효과 검정에서 발생하는 소표본 왜곡을 해결하고자, 두 가지 고차 근사 방법을 결합한 새로운 검정 절차를 제시한다. 1. **모델 설정 및 문제 정의** - 관측값 \(y_i\) 는 \(y_i = X_i\beta + Z_i b_i + \varepsilon_i\) 형태로 표현되며, \(b_i\sim N_q(0,G)\), \(\varepsilon_i\sim N_{\tau_i}(0,\sigma^2 I_{\tau_i})\) 이다. - 전체 모델을 행렬식 형태로 정리하면 \(Y = X\beta + e\), \(e\sim N_T(0,\Sigma)\) 이며, \(\Sigma = Z(I_N\otimes G)Z^\top + \sigma^2 I_T\). - 관심 파라미터는 고정 효과의 일부 \(\psi\) (차원 \(p\))이며, 나머지 파라미터를 부수 파라미터 \(\phi = (\xi^\top,\omega^\top)^\top\) 라 정의한다. 재파라미터화 \(\theta\to\vartheta\) 를 통해 \(\psi\)와 \(\phi\)가 직교하도록 만든다. 2. **표준 LR 검정과 그 한계** - 표준 Likelihood Ratio(LR) 통계량 \(LR = 2\{\ell_p(\hat\psi)-\ell_p(\psi_0)\}\) 는 \(H_0\) 하에서 \(\chi^2_p\) 분포에 근사하지만, 표본이 작을 경우 평균이 \(p\) 보다 크게 벗어나 과대판정이 빈번히 발생한다. 3. **Bartlett 보정** - Bartlett(1937)의 아이디어를 차용해 \(LR^* = LR/(1+C/p)\) 형태로 변형한다. 여기서 \(C\) 는 \(O(n^{-1})\) 정도이며, 기대값 \(E(LR^*) = p + O(n^{-3/2})\) 를 만족한다. - 저자들은 Lawley(1956)의 4차 누적량 전개를 이용해 일반적인 비선형 \(\Sigma(\omega)\) 에 대해 \(C\) 를 식 (7) 로 도출한다. 이 식은 \(D, M, P\) 라는 \((m+1)\times(m+1)\) 행렬의 트레이스 연산으로 구성되며, \(\dot\Sigma_j, \ddot\Sigma_{jk}\) 와 \(X\) 행렬에 대한 1차·2차 도함수를 포함한다. 선형 공분산 구조에서는 식이 단순화되어 기존 Zucker et al.(2000)의 결과와 일치한다. 4. **Cox‑Reid 조정된 프로파일 우도** - Cox와 Reid(1987)는 부수 파라미터와 관심 파라미터가 직교할 때, 프로파일 로그우도에 \(-\frac12\log|\ell_{\phi\phi}|\) 항을 추가하는 조정을 제안했다. - 조정된 로그우도 \(\ell_{pa}(\psi) = \ell_p(\psi) - \frac12\log|\ell_{\phi\phi}(\hat\phi(\psi))|\) 에 기반한 검정 통계량 \(LR_{CR}\) 는 여전히 \(\chi^2_p\) 근사를 갖지만, 부수 파라미터에 의한 불확실성을 부분적으로 보정한다. 5. **Cox‑Reid 검정의 Bartlett 보정** - DiCiccio와 Stern(1994)의 방법을 차용해 \(LR_{CR}^* = LR_{CR}/(1+C^*/p)\) 형태의 보정 상수 \(C^*\) 를 도출한다. 식 (9) 에서 \(C^*\) 는 \(D, M, P\) 와 추가 행렬 \(C(j)\) 의 트레이스를 이용해 계산된다. 이 역시 다변량 \(\psi\)와 비선형 \(\Sigma\) 에 대해 일반화된 형태이다. 6. **시뮬레이션 연구** - 모델: \(y_{ij}= \beta_0 + \beta_1 t_{ij} + \beta_2 x_{1i} + \beta_3 x_{2i} + b_{0i}+b_{1i}t_{ij} + \varepsilon_{ij}\) 이며, \(b_i\) 는 2차원 랜덤 효과, \(\varepsilon_{ij}\) 는 독립 정규 오차. - 관심 파라미터 \(\psi=(\beta_2,\beta_3)^\top\) 에 대해 \(H_0:\psi=0\) 검정을 수행. 표본 크기 \(N=12,24,36\) 와 랜덤 효과 공분산 파라미터 \((\omega_2,\omega_3)\) 조합을 변형하였다. - 5,000 회 반복에서 명목 유의 수준 α=5% 와 10% 에 대한 실제 재현율을 비교. 표준 LR 검정은 작은 표본(특히 \(N=12\))에서 13%~21%까지 과대판정했으며, \(LR_{CR}\) 와 \(LR_{CR}^*\) 는 4%~6% 수준으로 명목 수준에 근접했다. \(LR^*\) 는 일부 경우에 약간 과대판정했지만, 전반적으로 \(LR_{CR}\) 와 \(LR_{CR}^*\) 가 가장 안정적인 성능을 보였다. 7. **실제 데이터 적용** - 논문에서는 실제 의료 연구 데이터를 이용해 \(\beta_2,\beta_3\) 의 동시 검정을 수행하고, Bartlett‑Cox‑Reid 조정 검정이 기존 LR 검정보다 더 보수적인 결론을 내림을 확인하였다. 구체적인 데이터와 결과는 본문에 제시되어 있다. 8. **결론 및 의의** - 본 연구는 혼합 선형 모델에서 고정 효과에 대한 다변량 검정을 위한 Bartlett 보정과 Cox‑Reid 조정을 일반화함으로써, 소표본 상황에서도 정확한 유의 수준 유지와 검정력 향상을 달성하였다. - 제시된 보정 상수는 행렬 연산만으로 계산 가능하므로, 기존 통계 소프트웨어(예: R, Ox, SAS)에 손쉽게 구현할 수 있다. - 향후 연구에서는 비정규 오류 구조, 다중 레벨 모델, 베이지안 프레임워크와의 연계 등을 탐색할 여지가 있다.