격자 Voronoi 셀 정점 계산의 복잡도와 효율적 알고리즘

본 논문은 격자(Lattice)의 Voronoi 셀 정점 계산에 관한 이론적 복잡도와 실용적인 알고리즘을 동시에 다룬다. 서론에서는 격자 L = Bℤ^m ⊂ ℝ^n 의 Voronoi 셀 V(L)이 중앙 대칭이며, 그 부피·내접·외접 반경 등 중요한 격자 파라미터가 Voronoi 셀의 기하학적 특성으로 직접 해석될 수 있음을 강조한다. 특히, 결정(det L), 커버링 반경 μ(L), 양자화 상수 G(L) 등이 Voronoi 셀의 부피·반경·제곱 평균 거리와 일대일 대응한다는 점을 언급한다. 다음 섹션에서는 “Covering radius problem”을 결정 문제 형태로 정의하고, 현재 알려진 복잡도 결과(예: NP‑hard 추정, Π₂‑hard 근사)와의 관계를 검토한다. 이후 “Problem 2: Voronoi cell vertices”를 제시하고, 이 문제의 #P‑hardness를 증명한다. 증명은 크게 네 단계로 구성된다. 1) 그래프 G의 스패닝 트리를 이용해 격자 L(G) = {∑_{e∈T}α_e b_{T,e} | α_e∈ℤ}를 정의하고, 이는 스패닝 트리 선택에 무관함을 보인다(Proposition 1). 2) 그래프의 인시던스 행렬 D_G를 이용해 하이퍼플레인 배열 H(G) = H(D_G)를 만든다. Greene‑Zaslavsky의 결과에 따라 H(G)의 챔버는 G의 비순환 방향과 일대일 대응한다. 3) 하이퍼플레인 배열과 존토프 Z(D_G)의 면-챔버 관계를 이용해 V(L(G))가 ½ Z(P) 형태의 존토프와 선형동형임을 보인다(정규 격자와 Lemma 2, Theorem 2). 4) 따라서 V(L(G))의 정점 수는 G의 비순환 방향 수와 동일하고, 이는 #P‑complete 문제와 다항식 시간 감소가 가능함을 의미한다(Theorem 1). 이와 동시에 격자 동형 문제와 그래프 동형 문제 사이의 다항식 시간 감소도 제시한다. L(G)와 L(H)가 동형이면 원래 그래프 G와 H도 동형임을 3‑연결 그래프에 대한 Whitney의 2‑동형 정리를 이용해 증명한다(Theorem 3). 이는 격자 동형 문제가 그래프 동형보다 더 어려울 가능성을 배제한다. 알고리즘 섹션에서는 차원 ≤12인 격자에 특화된 정점 열거 방법을 설계한다. 핵심 아이디어는 다음과 같다. (i) 격자의 전체 대칭군 Aut(L)을 계산하고, 정점 후보들을 군 궤도로 분할한다. (ii) 각 궤도에 대해 대표점 하나만 검증하면 전체 정점을 얻을 수 있다. (iii) Delone 셀 D(x) = conv{v∈L | ‖x−v‖=min_w‖x−w‖}을 이용해 정점과 인접한 고차원 셀을 동시에 구한다. (iv) Gram 행렬을 직접 사용해 정수 연산을 최소화하고, 부동소수점 오차를 방지한다. 구현은 C++와 Eigen/FLINT 라이브러리를 활용했으며, 기존 CAS(SageMath, PARI/GP, Magma)와 비교해 정점 열거 시간에서 10배~200배 정도의 가속을 보였다. 실험 결과에서는 Leech 격자, E8, D12, A_n·A_m·… 등 고대칭 격자들의 정확한 커버링 반경과 양자화 상수를 최초로 계산했다. 특히 Leech 격자의 커버링 반경 μ = √2·(√(2/3))와 양자화 상수 G ≈ 0.070…을 고정밀도로 재현했으며, 이전에 알려지지 않았던 몇몇 고차원 격자에 대해서도 새로운 값들을 제공했다. 또한, 알고리즘이 정점 수가 (m+1)!에 달하는 경우에도 실용적인 시간 안에 결과를 도출함을 보였다. 결론에서는 #P‑hard 결과가 이론적 한계임을 인정하면서도, 격자 구조와 대칭성을 활용하면 실제 차원에서는 효율적인 계산이 가능함을 강조한다. 또한, 격자 동형 문제와 그래프 동형 문제 사이의 복잡도 관계를 명확히 함으로써 격자 이론, 계산 기하학, 복잡도 이론 사이의 새로운 연결 고리를 제공한다. 향후 연구 방향으로는 고차원(>12)에서의 근사 알고리즘 개발, 다른 L_p‑norm에 대한 커버링 반경 근사, 그리고 격자 기반 암호학에의 응용을 제시한다.