유한체 다항식 인수분해를 위한 균형 테스트

논문은 유한체 F_p 위의 일변량 다항식 f(x)를 인수분해하는 문제를 다룬다. ERH(Extended Riemann Hypothesis)를 가정하면 가오(2001)의 알고리즘이 다항식 시간에 동작하지만, 입력이 ‘제곱 균형(squared‑balanced)’일 경우에만 실패한다는 것이 알려져 있다. 저자는 이 한계를 넘어 ‘교차 균형(cross‑balanced)’이라는 더 강력한 대칭성을 정의하고, 이를 이용해 기존 알고리즘을 확장한다. 먼저 f를 단조(mon​ic), 제곱‑자유(square‑free), 완전 분해(completely splitting) 형태로 가정하고, 루트들을 ξ₁,…,ξ_n이라 한다. 임의이지만 결정적으로 선택된 보조 다항식 p₁(y),…,p_k(y) (deg p_l ≤ (poly (n log p))) 를 사용해 각 단계 l 에서 새로운 다항식 f_l = ∏_{i=1}^n (x − p_l(ξ_i)) 를 만든다. 각 f_l 에 대해 집합 Δ^{(l)}_i = { j | p_l(ξ_i) ≠ p_l(ξ_j), σ((p_l(ξ_i)−p_l(ξ_j))²)=−(p_l(ξ_i)−p_l(ξ_j)) } 를 정의하고, D_i^{(l)} = D_i^{(l‑1)} ∩ Δ^{(l)}_i (l>1) 로 재귀적으로 구한다. 여기서 σ는 가오가 제시한 제곱근 연산자이다. 이후 n개의 정점 v₁,…,v_n 으로 구성된 방향 그래프 G_l 을 만든다. 정점 v_i 에서 v_j 로 향하는 간선이 존재하는 조건은 j ∈ D_i^{(l)} 이다. 따라서 G_l 은 G_{l‑1} 의 서브그래프이며, l이 증가할수록 간선이 점점 감소한다. 그래프가 t‑정규(t‑regular)라면 모든 정점의 입·출 차수가 t 로 동일함을 의미한다. 정리 1.1 은 “어떤 l 에서든 G_l 이 비정규이면, 그 단계에서 바로 f의 비자명 인수를 다항식 시간에 찾을 수 있다”는 것을 증명한다. 또한 모든 G_l 이 정규이면서 적어도 ⌈log₂ n⌉ 개가 서로 다른 경우에도, 각 단계마다 정규도가 절반 이하로 감소하므로 최종적으로 선형 인수(차수 1)를 얻고, 이를 이용해 f 를 완전 분해한다. ‘제곱 균형’은 G₁ 이 정규인 경우와 동치이며, ‘k‑교차 균형’은 모든 l (1≤l≤k) 에 대해 f_l 이 제곱‑균형 형태 ˜f_l^{d_l} 로 표현되고, G_l 이 정규인 상황을 말한다. 즉, 루트들의 값이 p_l 에 의해 강하게 대칭을 이루어야만 알고리즘이 실패한다. 이러한 대칭 조건은 매우 드물다; 대부분의 다항식은 적어도 하나의 단계에서 비정규 그래프를 만들게 된다. 따라서 제안된 알고리즘은 결정론적 상황에서 기존 최선(예: Evdokimov 1994)의 복잡도 O((n^{1/2} log n + log p)^{c}) 보다 개선된 O((n log p)^{O(1)}) 를 달성한다. 또한 p_l 을 무작위로 선택하면, 각 단계에서 G_l 이 정규가 될 확률이 매우 낮아, 무작위 버전은 “대부분의 입력에 대해 다항식 시간”으로 동작한다. 이는 ‘균형 테스트’를 통해 루트들의 비대칭성을 탐지하고, 그 정보를 그래프 구조에 반영함으로써 인수분해를 효율화한 새로운 접근법이다. 마지막으로, 저자는 보조 다항식 p_l 을 효율적으로 결정적으로 구성하는 방법이 아직 남아 있지만, 무작위 선택만으로도 충분히 실용적이며, 향후 연구에서는 이를 결정론적으로 구현해 ERH 하에서 완전한 다항식 시간 알고리즘을 얻을 수 있을 것으로 기대한다.