오메가자동 트리 동형성 문제의 복잡도 분석

본 논문은 ω‑자동 트리의 동형성 판정 문제를 체계적으로 조사하고, 그 복잡도를 분석한다. 서론에서는 컴퓨터 과학에서 자동 구조와 ω‑자동 구조가 왜 중요한지, 그리고 기존에 알려진 결과들—특히 자동 트리의 동형성 문제가 산술 계층의 특정 수준에 해당한다는 점—을 소개한다. 이어서, ω‑자동 구조의 정의, Büchi 자동자의 기본 성질, 그리고 ω‑자동 프레젠테이션이 어떻게 구성되는지를 상세히 설명한다. 두 번째 섹션에서는 분석적 계층(Σ¹_n, Π¹_n)과 산술 계층(Σ⁰_n, Π⁰_n)의 정의를 복습하고, 이를 ω‑자동 트리와 연결시키는 방법론적 토대를 마련한다. 특히, 함수 양화자를 포함한 2차 논리식이 ω‑단어로 인코딩될 수 있음을 보이는 정규 언어 기반의 인코딩 기법을 제시한다. 세 번째 섹션에서는 높이 1·2인 ω‑자동 트리의 동형성 문제를 다룬다. 높이 1 트리는 단순히 루트와 그 자식들의 존재 여부만을 나타내므로, 두 트리의 동형성은 루트 자식 집합의 정규 언어 동등성 검사와 동치이며, 이는 Π⁰₁‑완전임을 증명한다. 높이 2 트리는 루트와 그 자식들의 자식까지 포함하므로, 동형성 판정은 두 단계의 정규 언어 동등성 검사를 필요로 하며, 이는 Π⁰₂‑완전임을 보인다. 네 번째 섹션은 높이 3 트리의 복잡도를 분석한다. 여기서는 2차 양화자(∃f, ∀f 등)를 트리의 레벨에 대응시키는 새로운 인코딩을 사용한다. 구체적으로, 첫 번째 레벨은 존재 양화자를, 두 번째 레벨은 보편 양화자를, 세 번째 레벨은 함수 양화자를 표현한다. 이를 통해 Π¹₁‑hardness를 증명하고, 상위 경계는 Π¹₂에 속함을 보인다. 다섯 번째 섹션에서는 일반적인 높이 n (≥4) 트리에 대한 결과를 제시한다. n‑3 단계까지의 양화자를 각각 레벨에 매핑하고, 남은 양화자를 트리의 “분기 구조”에 삽입한다. 이 과정에서 트리의 각 레벨이 독립적인 논리 양화자를 구현하도록 설계한다. 결과적으로, Π¹_{n‑3}·Σ¹_{n‑3}‑hardness를 얻으며, 연속 가설(CH)을 가정하면 Π¹_{2n‑4}에 포함된다. CH를 이용하는 이유는 무한 복제(ℵ₀·S, 2^{ℵ₀}·S)와 같은 카디널리티 조작이 필요하기 때문이다. 여섯 번째 섹션에서는 전체 유한 높이 트리(모든 n에 대해 높이가 제한된 트리)의 동형성 문제를 다룬다. 여기서는 모든 높이에 대한 하드니스 결과를 종합하여, 동형성 문제가 제2차 산술(Z₂)과 재귀적으로 동등함을 보인다. 즉, ω‑자동 트리의 동형성 문제는 제2차 산술과 같은 복잡도를 가지며, 이는 어떤 Σ¹_n·Π¹_n 계층에도 포함되지 않는다. 마지막으로, 논문은 결과의 의미와 향후 연구 방향을 논한다. 주요 기여는 (1) 기존의 집합론적 절대성 증명 없이 순수 계산 이론만으로 강력한 하한을 얻었다는 점, (2) ω‑자동 트리의 동형성 문제가 자동 트리보다 훨씬 높은 복잡도 계층에 위치한다는 점, (3) 연속 가설과 같은 추가 가정이 복잡도 상한을 정밀하게 조정한다는 점이다. 향후 연구에서는 무한 높이 트리, 다른 종류의 ω‑자동 구조, 그리고 CH 없이도 가능한 상위 경계 개선을 탐구할 필요가 있다.