프로로그 프로그램 자동 최적화를 위한 추상 해석 기반 변환

본 논문은 프로로그 프로그램을 원본 의미를 보존하면서 자동으로 소스‑대‑소스 변환을 수행하는 최적화 시스템을 설계하고 구현한다. 프로로그는 다방향 프로시저를 허용하지만, 일반적인 실행 모델은 깊이 우선 탐색과 백트래킹에 기반해 비효율적인 탐색 경로와 불필요한 연산을 초래한다. 특히 절단(!)과 부정(not) 같은 불순 특성은 코드 작성 방식에 따라 성능 차이를 크게 만든다. 기존에는 프로그래머가 이러한 특성을 수동으로 조정하고, 최적화 기법 간의 충돌을 판단해야 했지만, 이는 오류 가능성을 높이고 최적화 효과를 제한한다. 논문은 이러한 문제를 해결하기 위해 두 가지 핵심 아이디어를 제시한다. 첫 번째는 추상 해석을 이용한 정적 의미 분석이다. 여기서는 프로그램의 모드(입력·출력), 타입, 변수 공유, 해답 개수, 결정성, 배타성, 성공 보장 등 다양한 의미 정보를 추출한다. 이를 위해 Pat(ℜ) 기반의 추상 도메인을 사용해 추상 대입과 추상 답변 서열을 정의하고, 프로그램 전체에 대해 이러한 정보를 안전하게 근사한다. 두 번째는 이 정보를 기반으로 한 변환 규칙이다. 논문은 다섯 가지 규칙을 제시한다. 1. **절(clause) 순서 재배치**: 배타적이고 결정적인 절들을 서로 교환해 인덱싱 효율을 높인다. 2. **녹색 절(cut) 삽입**: 결정적인 목표 앞에 절을 삽입해 이후 탐색을 차단한다. 3. **dead code 제거**: 확실히 성공하는 목표 뒤에 있는 절을 삭제한다. 4. **절 위치 이동**: 절을 목표 뒤로 이동시켜 절이 실행되는 시점을 최적화한다. 5. **불필요한 테스트 리터럴 제거**: 변수 바인딩을 일으키지 않는 결정적 테스트를 삭제하거나 절 앞에 절을 이동한다. 각 규칙은 “주어진 입력 대입 θ에 대해 원본 절과 변환된 절이 동일한 답변 서열을 생성한다”는 형식적 조건을 만족해야 하며, 이는 앞서 정의한 의미 속성(결정성, 배타성, 성공 보장 등)으로 검증된다. 논문은 이러한 검증 과정을 자동화함으로써, 프로그래머가 직접 절단 위치를 판단하거나 절 순서를 재조정할 필요 없이, 지정된 호출 패턴(예: 입력이 완전히 ground인 경우)에 최적화된 특수화 코드를 생성한다. 구현된 최적화 도구는 ISO 표준 프로로그 프로그램을 입력으로 받아, 내부적으로 정규화된 형태로 변환한 뒤 추상 해석을 수행한다. 정규화 과정에서는 모든 절을 동일한 헤드 형태로 맞추고, 변수명을 정규화한다. 추상 해석 단계에서는 모드·타입·공유·선형성·크기 정보를 계산하고, 이를 바탕으로 위의 다섯 규칙을 적용할 순서를 결정한다. 규칙 적용 순서는 결정성, 배타성, 성공 보장 등의 속성을 고려해 최적의 효과를 낼 수 있도록 설계되었다. 실험에서는 대표적인 다방향 예제인 `efface/3`를 사용해 다방향 구현과 특수화 구현을 비교하였다. 입력 리스트 길이를 100, 1 000, 10 000, 25 000으로 늘려 실행 시간을 측정한 결과, 특수화된 코드는 다방향 코드에 비해 평균 2.8배에서 3.6배 정도 빠르게 동작했으며, 스택 사용량도 크게 감소했다. 특히 25 000 길이 리스트에서는 다방향 코드가 스택 오버플로우를 일으키는 반면, 특수화 코드는 정상적으로 실행되었다. 이러한 결과는 추상 해석 기반 최적화가 실제 프로로그 프로그램에 적용 가능함을 입증한다. 논문은 또한 기존의 부분 전개(partial deduction)와 차별점을 강조한다. 부분 전개는 호출을 전개해 새로운 절을 생성하지만, 이 논문의 최적화는 호출 전개 없이도 절 순서 재배치와 절 삽입·삭제만으로 충분한 성능 향상을 달성한다. 따라서 변환 과정이 더 간단하고, 원본 프로그램의 구조를 크게 변경하지 않으면서도 효율성을 높일 수 있다. 마지막으로, 관련 연구와 비교해 보면, 이 접근법은 Mercury와 유사하게 정적 정보(모드·타입·공유 등)를 활용하지만, Prolog의 비정형적인 코드에도 적용 가능하다는 점에서 차별화된다. 또한, 자동화된 의미 검증을 통해 변환의 안전성을 보장함으로써, 프로그래머가 직접 최적화 작업을 수행할 때 발생할 수 있는 오류를 크게 줄인다. 전체적으로 이 논문은 추상 해석과 변환 규칙을 결합한 프레임워크를 제시함으로써, 프로로그 프로그램의 자동 특수화와 실행 효율성을 향상시키는 실용적인 솔루션을 제공한다.