마르코프 불변량과 표현론을 활용한 계통수 추론의 새로운 틀

이 논문은 분자 계통학의 모델 기반 추론 방법을 근본적으로 재구성하기 위해 군 표현 이론을 도입한 장문의 연구입니다. 서론에서는 계통수 추론의 현황과 과제, 즉 최대우도법, 베이지안 법, 거리 기반법 등의 한계와 모델 과적합, 매개변수 추정의 어려움, 비정상성 과정 처리의 복잡성을 지적합니다. 이를 해결하기 위해 제안된 것이 '마르코프 불변량'으로, 기존의 계통학적 불변량과 구분되며 더 강한 대칭성을 가집니다. 2장에서는 수학적 기초를 다집니다. 유한 집합 위의 측정 이론을 바탕으로, 여러 분류군의 결합된 문자 상태 분포를 '계통학적 텐서'로 형식화합니다. 이 텐서 공간 위에 마르코프 과정(진화)을 나타내는 '마르코프 반군'을 정의하고, 마르코프 불변량을 이 반군의 작용에 대해 불변인 함수로 정의합니다. 이는 데이터에서 계산 가능한 통계량의 기초가 됩니다. 3장이 논문의 이론적 중추입니다. 마르코프 반군과 관련된 군(GL(k)의 직곱)을 분석하고, 그 표현론을 체계적으로 검토합니다. 슈어-바일 대칭성과 '플레티즘' 개념을 도입하여, 텐서 거듭제곱 공간의 표현 분해 문제로 마르코프 불변량의 문제를 환원시킵니다. 이를 통해 마르코프 불변량이 존재하기 위한 필요충분조건을 제시하고, 그 존재성을 증명하는 정리를 수립합니다. 또한 부록에서는 이러한 불변량을 실제로 구성하는 명시적인 알고리즘을 제시합니다. 4장에서는 이론을 실제 계통학 문제에 적용합니다. 다양한 불변량들을 분류하고 명명법을 제안하며, 3분기(3-taxa) 및 4분기(4-taxa) 계통수에서 마르코프 불변량이 어떻게 작동하는지 상세히 설명합니다. '혼합 가중치 마르코프 불변량'과 같은 확장 개념도 소개됩니다. 특히 4분기 경우, 단 하나의 매개변수 최적화를 통해 네 가지 가능한 위상 중 가장 적합한 트리를 선택하는 추론 루틴을 보여주어 방법의 실용성을 입증합니다. 논의 섹션에서는 이 접근법이 일반적인 모델 하에서 통계적 일관성을 가지며 매개변수 수를 최소화한다는 점에서 기존 방법론의 바람직한 특징을 모두 갖췄다고 평가하며, 향후 더 큰 계통수로의 확장(예: 분기 퍼즐링 기법 활용) 가능성을 제시합니다.