근사 순위 근사 알고리즘

본 논문은 통신 복잡도 이론에서 핵심적인 하한 도구인 근사 순위(approximation rank)의 계산 난이도와 얽힘을 포함한 양자 통신 모델에 대한 적용 가능성이라는 두 가지 주요 문제를 동시에 해결한다. 서론에서는 통신 행렬 M_f와 그 랭크가 결정론적 통신 복잡도의 로그 하한을 제공한다는 고전적인 결과를 소개하고, 랜덤화된 혹은 얽힘이 없는 양자 통신 복잡도에서는 근사 순위 rk_α(M_f) 가 동일하게 하한을 제공한다는 사실을 정리한다. 그러나 rk_α는 실제로 계산하기 어려우며, 얽힘을 허용한 양자 모델에 대한 하한으로는 아직 알려지지 않은 점을 지적한다. 이를 극복하기 위해 Linial·Shraibman이 제안한 γ₂^α 노름을 도입한다. γ₂는 행렬 A를 X·Yᵀ 로 분해할 때 각 행의 ℓ₂ 노름의 최대값을 최소화하는 팩터화 노름이며, γ₂^α는 추가로 각 원소가 1과 α 사이에 존재하도록 제한한다. γ₂^α는 SDP 형태로 표현 가능하므로 다항 시간에 근사 계산이 가능하다. 논문은 먼저 γ₂^α와 근사 순위 사이에 (1/α)·γ₂^α(A)² ≤ rk_α(A) 라는 하한을 제시한다(Prop 9). 이는 기존에 알려진 γ₂와 랭크 사이의 관계를 근사 버전으로 확장한 결과이다. 핵심 정리는 두 번째 부등식, 즉 rk_α(A) ≤ C·γ₂^α(A)²·log(8mn) 를 증명하는 것이다. 증명은 크게 두 단계로 구성된다. 첫 단계에서는 Johnson‑Lindenstrauss 차원 축소 정리를 이용해 γ₂^α가 제공하는 최적 팩터화 (X₀,Y₀)를 낮은 차원 k≈γ₂^α(A)²·log(8mn) 로 무작위 선형 변환 R에 의해 압축한다. 이때 각 내적 ⟨x_i, y_j⟩ 가 원래 값과 t 오차 이내로 유지될 확률을 보이며, t와 k를 적절히 선택해 전체 mn 쌍에 대해 동시에 성공하도록 만든다. 압축된 팩터화 (X₁,Y₁)는 랭크가 k 이하이며, 행렬 B(i,j)= (1−t)⁻¹⟨R x_i, R y_j⟩ 로 정의하면 A에 대한 (α+t)/(1−t) 근사 행렬이 된다. 두 번째 단계는 이 근사 오차를 다시 α 수준으로 낮추는 과정이다. 여기서는 부호 함수의 저차 다항식 근사를 이용한다. 구체적으로 3차 다항식 p(x)=a₁x−a₃x³ 를 설계해