재작성 규칙을 통한 일관성 보장과 완전성 검증

본 논문은 Coq와 같은 Curry‑Howard 동형성을 기반으로 하는 증명 도우미에 사용자 정의 재작성 규칙을 도입하는 과정에서 발생할 수 있는 논리적 일관성 문제를 체계적으로 다룬다. 서론에서는 현재 Coq가 내부 변환(b‑eta, iota) 외에 외부 등식(예: 사용자 정의 동치)을 투명하게 활용하지 못해 증명 스크립트가 비대해지는 현실을 지적한다. 이를 해결하기 위해 재작성 규칙을 변환 규칙으로 활용하면 등식 사용을 자동화하고 증명 크기를 감소시킬 수 있음을 제시한다. 그러나 임의의 재작성 규칙은 시스템을 비결정성 혹은 불일관성 상태로 만들 위험이 있어, 일관성을 보장할 수 있는 **결정 가능한(decidable) 기준**이 필요함을 강조한다. 관련 연구에서는 주로 **종료(termination)**와 **합류성(confluence)**을 보장하는 방법이 제시되었으며, 논리적 일관성에 대한 구체적 기준은 부족했다. 저자들은 일관성을 **캔오니컬리티**와 연결시킨다. 캔오니컬리티는 모든 정규 형태가 “값”이어야 함을 의미한다. 만약 재작성 정의가 **완전(complete)**하다는 가정 하에, 모든 함수 심볼 f에 대해 어떤 정규 인자 조합도 언제든지 규칙에 의해 감소될 수 있음을 보장한다면, f가 적용된 형태는 절대로 정규 형태가 될 수 없고, 따라서 (x:∗) x와 같은 모순적인 목표를 만들 수 없게 된다. 이를 위해 논문은 **General Schema**를 기반으로 한 완전성 검증 알고리즘을 설계한다. 알고리즘은 다음 단계로 구성된다. 1. **규칙 정규화**: 각 재작성 규칙을 α‑변환과 β‑축소를 적용해 표준 형태로 만든다. 2. **패턴 매칭 분석**: 좌변이 왼쪽 선형(left‑linear)이며, 변수들이 적절히 제한된 형태인지 확인한다. 특히 종속 타입(예: 트리의 크기 인자)에서 변수 간 산술 관계가 유지되는지를 검사한다. 3. **타입 검증**: 규칙의 좌·우변이 현재 환경에서 타입이 맞는지, 특히 종속 타입의 경우 인자와 결과 타입 사이의 의존성이 올바른지 확인한다. 4. **임계쌍(critical pair) 검사**: 모든 규칙 쌍에 대해 교차 감소가 가능한지 확인해 합류성을 보장한다. 5. **완전성 조건 검사**: 함수 심볼 f에 대해, 모든 가능한 정규 인자 조합이 규칙에 의해 감소되는지를 재귀적으로 확인한다. 알고리즘은 **소리있음(soundness)**과 **종료성(termination)**을 보장하지만, 완전성 자체가 **불완전(incomplete)**하다는 점을 인정한다. 즉, 실제로 완전한 정의라도 알고리즘이 거부할 수 있다. 그럼에도 불구하고, Coquand‑McBride 스타일의 종속 패턴 매칭과 다중 규칙을 이용한 고차 함수 정의(예: 리스트의 map, 트리 회전) 등 실무에서 흔히 사용되는 패턴을 모두 포괄한다. 논문은 **Pure Type Systems (PTS)** 프레임워크 위에 재작성 정의를 확장한다. PTS는 정렬(sorts), 관계 A와 R을 통해 타입 규칙을 정의하며, 여기서 제시한 완전성 검증 절차는 PTS가 만족해야 하는 네 가지 기본 가정(P1–P4)인 주제 감소, 타입 유일성, 강 정규화, 합류성을 전제로 한다. 특히, Calculus of Constructions은 PTS의 한 인스턴스로, 논문은 이를 일반화하여 보다 넓은 타입 이론에 적용 가능하도록 만든다. **일관성 증명** 부분에서는, 완전성이 보장된 경우 함수 심볼이 적용된 형태는 절대로 정규 형태가 될 수 없으므로, 빈 환경(또는 인덕티브 정의만 포함된 환경)에서 (x:∗) x와 같은 증명 목표를 도출할 수 없음을 보인다. 이는 캔오니컬리티가 일관성을 직접적으로 보장한다는 결론으로 이어진다. 마지막으로, 논문은 실제 Coq 환경에 적용하기 위해서는 **종료성**과 **합류성**을 보장하는 별도 메커니즘(예: 정적 분석 도구, 사용자 지정 전략)과 결합해야 함을 강조한다. 기존 연구(