계통수 기반 비교 데이터의 계층적 자기상관 분석

본 논문은 계통수(phylogenetic tree) 구조를 갖는 비교 데이터에서 선형 회귀 모델의 asymptotic(대수적) 특성을 체계적으로 분석한다. 연구 동기는 종 간의 공통 조상 관계가 데이터의 자기상관을 야기한다는 점이며, 이는 생물학뿐 아니라 마이크로어레이, 언어학, ANOVA의 중첩 효과 등 다양한 분야에 적용된다. 1. **모델 설정** - 종(또는 유전자)들을 노드로 하는 트리를 가정하고, 각 가지의 길이는 진화 시간(또는 다른 거리 척도)이다. - 브라운 운동(Brownian Motion, BM) 가정 하에, 각 종의 형질 Y는 평균 μ(루트 상태)와 공분산 σ²Vtree를 갖는 다변량 정규분포를 따른다. Vtree의 원소 Vij는 두 종이 공유하는 조상까지의 시간(공통 조상 길이)이다. - 선형 모델 Y = Xβ + ε, ε ~ N(0, σ²Vtree) 를 고려한다. 설계행렬 X는 고정 혹은 랜덤 공변량을 포함할 수 있다. 2. **추정량의 수렴성** - 정리 1에 의해, 설계행렬 X가 풀랭크이면 BLUE인 β̂ = (XᵀV⁻¹X)⁻¹XᵀV⁻¹Y는 거의 확실히(Almost surely) 그리고 L² 의미에서 수렴한다. - 그러나 수렴값이 진정한 β와 일치하려면 해당 파라미터의 asymptotic variance가 0이어야 한다. 트리 구조에서는 인터셉트(조상 상태)와 특정 라인지 효과가 트리 깊이에 따라 가중치가 크게 변동하므로, 이들의 분산은 0이 되지 않는다. 결과적으로 β̂₀와 라인지 효과 추정치는 무작위 한계값으로 수렴하고, 일관성이 결여된다(즉, “inconsistent”). 3. **유효 표본 크기(effective sample size, ne)** - 비일관 파라미터에 대해 실제 표본 수 n과는 별도로 정보량이 제한된다. 이를 정량화하기 위해 ne를 정의한다. - ne는 트리의 구조적 특성에 의해 상한이 존재한다: ne ≤ k·T/t, 여기서 k는 루트에서 뻗는 가지 수, T는 루트에서 팁까지 평균 거리, t는 가장 짧은 가지 길이이다. - 실증적으로, 25종 식물 데이터에서는 ne≈5.54, 49종 포유류 데이터에서는 ne≈6.11로, n=25·와 49·에 비해 4~8배 감소한다. 이는 조상 상태 추정에 필요한 실질적 정보가 제한적임을 의미한다. 4. **BIC와 모델 선택** - 전통적인 BIC는 -2·log L + p·log n 형태로, 모든 파라미터에 log n 벌점을 부과한다. 그러나 비일관 파라미터에 대해 이는 과도한 벌점이 되며, 사후 확률을 정확히 근사하지 못한다. - 저자는 인터셉트와 라인지 효과와 같은 비일관 파라미터에 대해 log(1+ne) 벌점을 적용한다. 이는 AIC와 유사한 형태이면서도 트리 의존성을 반영한다. 예를 들어, 식물 트리에서 인터셉트는 log(1+5.54)만큼, 라인지 시프트는 log(1+2.72)만큼 벌점한다. 5. **샘플링 설계와 최적화** - 루트에 가까운 종(예: 화석 종, 초기 바이러스 샘플)을 포함하면 인터셉트에 대한 가중치가 크게 증가한다. 따라서 ne를 최대화하려면 루트에서 뻗는 k개의 가지를 가능한 많이 포함하고, 각 가지의 초기 분기 길이를 최소화하는 것이 바람직하다. - 시뮬레이션에서는 전체 25종 중 15종만 선택해도 ne가 거의 최댓값에 도달함을 확인하였다. 무작위 선택보다 단계적 후진·전진 탐색을 통해 최적의 서브샘플을 찾는 것이 효율적이다. 6. **확장 및 응용** - 비록 BM 모델을 중심으로 전개했지만, OU(Ornstein-Uhlenbeck) 모델이나 점프 모델 등 다른 진화 모델에도 결과가 확장 가능함을 언급한다. - ANOVA의 중첩 효과 모델에서도 동일한 계층적 자기상관 구조가 나타나므로, 본 연구의 이론은 넓은 통계학적 맥락에 적용될 수 있다. **결론** 계통수 기반 비교 데이터는 전통적인 독립성 가정이 깨지는 복잡한 자기상관 구조를 가진다. 이로 인해 인터셉트와 라인지 효과와 같은 파라미터는 표본 수가 무한히 커져도 일관성을 잃으며, 실제 정보량은 ‘유효 표본 크기’ ne에 의해 제한된다. 기존 BIC는 이러한 특성을 반영하지 못하므로, ne 기반의 벌점으로 수정해야 한다. 또한, 트리 구조를 고려한 최적 샘플링 설계가 조상 상태 추정 및 라인지 시프트 검출의 통계적 파워를 크게 향상시킨다. 본 논문의 이론적·실증적 결과는 진화생물학, 유전학, 언어학 등 다양한 분야에서 보다 신뢰성 있는 비교 분석을 수행하는 데 중요한 지침을 제공한다.