다중 유전자 데이터로 종계통 추정에 필요한 최소 샘플 복잡도와 새로운 거리 기반 알고리즘

본 논문은 다중 로키(다중 유전자) 데이터를 이용해 종계통(스페시스 트리)을 추정하는 문제를 다루며, 특히 유전자 트리 추정 오류를 고려한 데이터 요구량을 최초로 정량화한다. 연구 배경으로, 개별 유전자의 진화 역사는 종계통과 위상이 다를 수 있는 불완전 계통 정렬(ILS) 현상 때문에 혼란을 야기한다는 점을 제시한다. 기존 연구는 MSC(다중 종속 코얼세선) 모델을 가정하고, 정확한 유전자 트리 혹은 정확한 코얼세선 시간만 주어지면 통계적 일관성을 보였지만, 실제 데이터는 제한된 서열 길이 k 로부터 유전자 트리를 추정해야 하므로 오류가 발생한다. 특히 GLASS는 최소 코얼세선 시간을, STEAC은 평균 코얼세선 시간을 거리로 사용했으며, 각각 m ∝ f⁻¹, f⁻² (여기서 f 는 종계통 내 최소 가지 길이) 정도의 유전자 수가 필요하다고 알려졌다. 하지만 서열 길이가 유한하면 코얼세선 시간 추정이 큰 변동성을 보이며, 특히 최소값을 이용하는 GLASS는 노이즈에 매우 민감하다. 저자들은 이러한 문제를 해결하기 위해 거리 정의 자체를 바꾸었다. Jukes‑Cantor 모델 하에서 두 종 A와 B 사이의 정규화된 해밍 거리 bp₍AB₎ = (1/mk)∑_{i=1}^m∑_{j=1}^k𝟙{χ_{ij}^A≠χ_{ij}^B}를 도입한다. 이 거리의 기대값은 종계통의 코얼세선 시간에 정확히 비례함을 정리 1에서 증명한다. 즉, E