오메가 유리 함수의 연속성 집합에 관한 새로운 불가능성 결과

본 논문은 Büchi 유한 상태 변환기에 의해 정의되는 ω-유리 함수의 연속성 집합(C(f))에 대한 이론적 연구를 수행한다. 먼저, 저자들은 기존 연구인 Prieur(2000, 2001)의 결과를 재조명한다. Prieur는 주어진 ω-유리 함수가 전체적으로 연속인지 여부는 결정 가능함을 증명했으며, 이는 함수의 그래프를 닫은 뒤 다시 유리 관계가 되는 성질을 이용한 것이다. 그러나 저자들은 이와는 다른 질문, 즉 “함수가 최소 하나의 연속점을 갖는가?”와 “연속성 집합 자체를 효과적으로 구할 수 있는가?”에 대해 탐구한다. 1. **일반(비동기식) ω-유리 함수의 부정적 결과** - **불가능성 증명**: Post’s Correspondence Problem(PCP)의 불가능성을 이용해 연속점 존재 여부가 결정 불가능함을 보인다. 구체적으로, 두 알파벳 집합 A={a,b}와 C={c₁,…,cₙ}를 정의하고, 입력 도메인을 C⁺·A^ω 로 제한한다. 입력이 c_{i₁}…c_{i_k}·z 형태일 때, z가 (A*·a)^ω 혹은 (A*·b)^ω 에 속하면 각각 u_{i₁}…u_{i_k}·z 혹은 v_{i₁}…v_{i_k}·z 로 매핑한다. 여기서 (u₁,…,uₙ)와 (v₁,…,vₙ) 은 PCP 인스턴스의 두 리스트이다. 함수 f가 연속이 되려면, 두 경우가 동일한 출력으로 수렴해야 하는데, 이는 정확히 PCP 해가 존재함과 동치가 된다. 따라서 연속점이 존재하는지 여부는 PCP 해 존재와 동일하게 결정 불가능하다. - **연속성 집합의 복잡도**: 연속성 집합 C(f)는 일반적으로 Π⁰₂ 집합이지만, 위와 같은 구성에서는 C(f)가 비유리적이며 심지어 컨텍스트 프리 언어도 아닐 수 있음을 보인다. 이는 연속성 집합이 일반적인 ω-정규 언어나 심지어 ω-문맥 자유 언어보다 높은 복잡도(예: Σ¹₁) 수준에 놓일 수 있음을 시사한다. 2. **동기식(동시) ω-유리 함수의 긍정적 결과** - **연속성 집합의 유리성**: 동기식 변환기는 입력과 출력이 동일한 속도로 읽히므로, 그 그래프는 Σ×Γ 위의 ω-정규 언어가 된다. 저자들은 그래프를 닫은 뒤에도 여전히 유리 관계임을 이용해, 연속성 집합 C(f)를 효과적으로 추출한다. 구체적으로, 연속성은 “입력의 앞부분이 동일하면 출력의 앞부분도 동일하게 수렴한다”는 조건으로 표현되며, 이는 유한 상태 기계로 인식 가능한 열린 집합들의 가산 교집합 형태가 된다. 따라서 C(f)는 Π⁰₂ 집합이면서도 유리(Δ⁰₃) 언어가 된다. - **연속성 집합의 완전성**: Landweber(1969)의 정리(Π⁰₂ 집합 ↔ 결정적 Büchi 자동기)와 결합해, 임의의 유리 Π⁰₂ 집합 L⊆Σ^ω에 대해 L을 연속성 집합으로 갖는 동기식 ω-유리 함수 g를 구성한다. 구성 방법은 다음과 같다. L을 인식하는 결정적 Büchi 자동기 A=(Q,Σ,δ,q₀,F)를 취하고, 각 전이 (q,a)→q'에 대해 출력 기호를 q' 로 매핑한다(또는 별도의 출력 알파벳을 사용해 동일하게 정의). 이렇게 만든 변환기의 출력은 입력과 동기식으로 진행되며, 연속성 조건은 정확히 A가 무한히 방문하는 상태 집합(F)와 일치한다. 따라서 모든 유리 Π⁰₂ 집합이 연속성 집합으로 실현 가능함을 증명한다. 3. **결과 정리 및 의의** - 일반 ω-유리 함수는 연속성 집합이 복잡한 분석적(Σ¹₁) 수준에 위치할 수 있어, 연속점 존재 여부 자체가 결정 불가능함을 보였다. 이는 함수의 전체 연속성 여부는 결정 가능하지만, “일부 연속점 존재”라는 약한 질문조차도 불가능함을 의미한다. - 동기식 ω-유리 함수는 구조적 제한 덕분에 연속성 집합이 유리이며, 효과적으로 계산 가능하고, 모든 유리 Π⁰₂ 집합을 포괄한다는 강력한 표현력을 가진다. 이는 동기식·비동기식 구분이 위상수학적 복잡도와 직접 연결된다는 중요한 통찰을 제공한다. - 논문은 형식 언어 이론, 자동이론, 위상수학(특히 Borel 계층) 및 계산 복잡도 이론을 융합해, ω-유리 함수의 연속성 문제에 새로운 불가능성·가능성 경계를 제시한다. 이는 향후 ω-언어와 무한 전이 시스템의 정밀 분석, 그리고 연속성 기반의 리덕션 및 검증 기법 개발에 기초 자료가 될 것이다.