야첸코 알고리즘 결함과 다항시간 TSP 주장 비판

이 논문은 야첸코(V. Yatsenko)가 2007년에 발표한 “Fast Exact Method for Solving the Traveling Salesman Problem” 논문을 비판적으로 분석한다. 논문의 서두에서는 P와 NP의 관계, 특히 TSP가 NP‑complete 문제라는 점을 상기시키며, 만약 TSP를 다항시간에 정확히 해결할 수 있다면 P = NP가 성립한다는 논리적 배경을 제시한다. 이후 야첸코가 제안한 알고리즘의 구조를 상세히 설명한다. 알고리즘은 세 단계로 이루어지는데, 첫 두 단계는 가장 거리가 먼 두 점을 연결하고, 그 사이에 거리 합이 최대가 되도록 세 번째 점을 추가해 초기 삼각형을 만든다. 세 번째 단계는 기존 경로의 각 변마다 남아 있는 정점 중 하나를 선택해 그 변을 두 변으로 대체하는 삽입 과정을 반복한다. 삽입 기준은 “교란(disturbance)”이라는 개념으로, 삽입 후 경로 길이 변화량을 최소(또는 최대)로 만드는 정점을 선택한다. 논문은 먼저 “max‑min” 삽입 절차가 절단 절차의 역이 아니라는 점을 지적한다. 절단 절차는 현재 최적 경로에서 교란이 가장 작은 정점을 제거하지만, max‑min 삽입은 교란이 가장 큰 정점을 선택한다. 이를 입증하기 위해 네 점으로 구성된 간단한 유클리드 예시를 제시한다. 초기 삼각형을 만든 뒤, max‑min 삽입을 적용하면 그림 2에 나타난 비최적 경로가 생성되고, 실제 최적 경로(그림 3)와 차이가 발생한다. 따라서 삽입 절차만으로 최적 해를 복원할 수 없으며, 논문의 주장과는 모순된다. 다음으로 “min‑min” 삽입 절차에 대한 반례를 제시한다. 내부에 여러 정점이 포함된 경우, 최소 교란을 갖는 정점을 삽입하더라도 이후 삽입 순서가 최적 라우트를 방해한다. 그림 4‑7을 통해, 외부 삼각형 내부에 정점들을 순차적으로 삽입하면 최종 경로가 비최적임을 보여준다. 특히, 상단 정점과 측면 정점 사이의 거리가 중앙 정점과의 거리보다 짧음에도 불구하고 알고리즘은 비효율적인 순서를 선택한다. 알고리즘의 복잡도 분석에서는 특수한 격자 형태 입력을 고려한다. 격자에서는 매 삽입 단계마다 여러 정점이 동등한 교란 값을 갖게 되며, 이를 모두 탐색해야 최적성을 보장한다. 논문은 이러한 경우 하위 문제의 수가 급격히 증가해 최악의 경우 O(N !)에 가까운 시간 복잡도가 발생한다는 점을 수식적으로 설명한다. 특히, 초기 삼각형을 만든 뒤 3(N‑2)개의 정점이 최대 삼각형 위에 놓이는 경우, 각 정점에 대해 모든 순열을 시뮬레이션해야 하므로 실제 실행 시간은 다항시간이 아니다. 평가 부분에서는 야첸코가 제시한 “시각적 검사” 방식을 비판한다. 저자는 N = 500, 1000, 2000 규모의 데이터셋에 대해 시각적으로 해결 여부를 판단했지만, 이는 객관적인 검증 방법이 아니다. 표준 TSP 벤치마크(VLSI 데이터셋)와 비교하지 않았으며, 루프(경로 교차)가 빈번히 발생한다는 보고는 알고리즘이 실제로 최적이 아닌 휴리스틱임을 시사한다. 또한 N이 커질수록 교차가 4/5 정도 발생한다는 통계는 알고리즘의 불안정성을 드러낸다. 결론적으로, 논문은 야첸코의 알고리즘이 언제든지 최적 해를 제공하지 않으며, 특정 입력에서는 지수적인 하위 문제를 야기해 다항시간 보장을 깨뜨린다고 주장한다. 따라서 해당 논문이 제시한 “Fast Exact Method”는 실제로는 정확한 다항시간 알고리즘이 아니라, 제한된 경우에만 동작하는 휴리스틱에 가깝다는 결론에 이른다.