선형 코드 기반 벡터 양자화와 정규화 제곱 평균의 최적화

본 논문은 연속형 메모리 없는 소스 X를 벡터 양자화하기 위한 새로운 프레임워크를 제시한다. 먼저, GF(q) 위의 (n,k) 선형 코드를 이용해 Construction A 형태의 격자 Λ(C)를 정의한다. 격자점 λ는 정수 벡터이며, λ≡c (mod q)인 코드워드 c와 정수 벡터 b에 의해 λ=c+qb 로 표현된다. 이 격자는 모든 Voronoi 영역이 동형이므로 정규화 제곱 평균(NSM) Gₙ(R) 로 양자화 효율을 평가한다. 이론적 배경으로 Zador의 고전적 결과와 Conway‑Sloane의 격자 인코딩 방식을 요약한다. Zador는 작은 왜곡 영역에서 양자화 성능이 NSM에 의해 좌우된다고 보였으며, NSM이 1/(2πe) 에 가까울수록 Shannon 한계에 근접한다. 논문은 무작위 코딩 기법을 차용해, 임의의 소수 q와 ε>0에 대해 충분히 긴 q‑ary 선형 코드 집합 {Cₙ}이 존재하여 Gₙ(q)가 G_∞(q)와 ε 이내로 수렴함을 보인다(Theorem 1). 여기서 G_∞(q)는 q→∞ 일 때 1/(2πe) 로 수렴한다(Corollary 1). 이는 q가 커질수록 격자 구조가 구형 커버링에 근접함을 의미한다. 실제 코드 설계에서는 메모리 ν≤8인 q‑ary 컨볼루션 코드를 전수 탐색하였다. 특히 q=2,3,5에 대해 최적 NSM을 기록했으며, 표 I에 제시된 바와 같이 코드율 R_C=1/2 (k=n/2)인 경우가 대부분의 q에서 거의 최적에 가깝다. 이진 경우에는 R_C=1/2 코드가 비최적이지만, 64‑state 이진 트렐리스가 무작위 장기 코드보다 더 낮은 NSM을 달성하였다. 이는 짧은 코드 길이에서도 구조적 제약이 비균등 분포에 유리하게 작용할 수 있음을 시사한다. 양자화 절차는 소스 벡터 x∈ℝⁿ을 격자 Λ(C) 내의 가장 가까운 점 λ에 매핑하는 방식이다. Voronoi 영역 R_i는 동일한 부피와 형태를 가지며, 평균 왜곡 D는 Gₙ(R)·V(R)^{2/n} 로 표현된다. 엔트로피 코딩을 적용하면 전송률 R는 h(X)−(1/n)·log V(R) 로 근사된다. 따라서 R(D)와 Shannon 한계 H(D) 사이의 격차는 ½·log(2πe·Gₙ(R)) 로 제한된다. 비균등 소스에 대한 성능 향상을 위해 저자들은 “제로 영역 확장”(EZZ) 기법을 격자 양자화에 일반화한다. 기존 Euclidean 거리 대신 사이클릭 메트릭 ρ(x,y)=min{(x−y)²,(|x−y|−q)²}를 사용해 Voronoi 영역을 재정의하고, 제로 영역을 넓혀 비균등 확률 밀도(라플라시안, 가우시안, 일반화 가우시안 등)에서도 왜곡을 크게 감소시켰다. 실험 결과, 3 bits/sample, 32‑state 트렐리스 기준으로 기존 방법 대비 0.3~0.44 dB, 고속에서는 1 dB 이상의 SNR 향상을 얻었다. 논문의 주요 기여는 다음과 같다. 첫째, q‑ary 선형 코드 기반 격자의 NSM이 무한 차원 구형 커버링 한계에 수렴함을 이론적으로 증명하고, 실험적으로 q=2,3,5에서 근접값을 확인하였다. 둘째, 메모리 제한이 있는 컨볼루션 코드를 효율적으로 탐색해 실용적인 코드북을 제공하였다. 셋째, EZZ 기법을 격자에 적용해 비균등 소스에 대한 엔트로피 제약 양자화 효율을 크게 개선하였다. 이러한 결과는 저복잡도(선형 시간) 양자화가 필요한 통신·영상·센서 네트워크 등에서 실용적인 대안이 될 수 있음을 보여준다.