AWGN 채널에서 다양성 차수와 전송률의 관계

본 연구는 additive white Gaussian noise (AWGN) 채널에서 전송률에 따라 오류 확률의 다양성 차수가 어떻게 변하는지를 체계적으로 조사한다. 먼저, Gallager가 제시한 평균 오류 확률 상한을 기반으로 이산 입력(M‑ary PSK, 최적 이산 별자리)과 연속 입력(가우시안) 두 경우를 모두 분석한다. Gallager 상한은 입력 분포 q(x)와 파라미터 ρ에 따라 정의되는 두 오류 지수 E₀(ρ)와 Eₓ(ρ)를 이용한다. 전송률 R에 따라 세 개의 구간—영역 1(낮은 R), 영역 2(중간 R), 영역 3(높은 R)—으로 나뉘며, 각각에서 최적 ρ를 선택해 상한을 최소화한다. 영역 1에서는 ρ≥1을 사용하고, 최적 ρ를 구하면 오류 상한이 Pₑ < exp(−n·δ(R)·η) 형태가 된다. 여기서 η는 SNR(=1/σ²)이고, δ(R)는 전송률에 의존하는 양이다. 따라서 SNR이 증가할수록 오류 확률이 지수적으로 감소하여 높은 다양성 차수를 보인다. 영역 3에서도 0≤ρ≤1을 최적화하고, 유사한 형태의 지수적 감소가 나타난다. 특히 η가 π(≈11.45 dB)보다 작든 크든, 최적 ρ를 통해 Pₑ ≈ exp(−n·const·η) 형태가 유지된다. 반면 영역 2에서는 E₀(1)=Eₓ(1)이며 최적 ρ가 1로 고정된다. 이때 상한은 Pₑ < e^{nR}·M^{−n}·(1+e^{−ηK})^{n} 로 표현된다. η가 작을 때는 두 번째 항 e^{−ηK}가 지배해 지수적 감소가 유지되지만, η가 커지면 (1+e^{−ηK})≈1이 되어 상한이 η에 거의 의존하지 않게 된다. 결과적으로 다양성 차수가 급격히 감소하고, 다항식적(또는 상수) 감소 구간이 나타난다. 이는 전송률이 중간 구간에 있을 때만 발생하는 현상이며, 기존 연구에서 BPSK에 한정해 관찰된 결과를 일반적인 M‑ary PSK와 연속 입력까지 확장한다. 다음으로 저자들은 기존의 구형 포장 하한(SP59, SP67)과 개선된 ISP 하한, 그리고 거리 스펙트럼 기반 하한을 적용한다. 연속 입력에 대해서는 Shannon의 1959년 하한이 가장 타이트하고, 이산 입력·연속 출력에 대해서는 ISP가 최선이다. 이론적 하한과 Gallager 상한을 비교한 결과, 영역 1·3에서는 모두 지수적 감소를 보이며, 하한과 상한 사이의 격차가 비교적 작다. 그러나 영역 2에서는 하한이 여전히 지수적 감소를 유지하는 반면, Gallager 상한은 서브지수적 감소를 보인다. 실제 코드 성능을 검증하기 위해 BCH(63,57), BCH(255,247) 등 실용적인 블록 코드를 사용해 M‑ary PSK 변조와 함께 시뮬레이션을 수행했다. 시뮬레이션 결과는 특히 영역 3과 영역 2의 상위 부분에서 Gallager 상한과 거의 일치했으며, 이는 상한이 실제 코드의 최악 경우를 잘 포착한다는 것을 의미한다. 반면 영역 2의 하위에서는 시뮬레이션된 BER이 상한보다 지속적으로 지수적 감소를 보여, 실제 코드가 더 좋은 거리 구조를 가지고 있음을 시사한다. 또한 ISP 하한은 매우 보수적이었으며, 거리 스펙트럼 기반 하한이 더 현실적인 하한을 제공했다. 연속 가우시안 입력에 대해서도 동일한 분석을 수행하였다. 입력 제약(평균 전력, 피크 전력) 하에서 최적 입력 분포를 구하기 위해 cutting‑plane 알고리즘을 적용했고, 최적 분포는 결국 가우시안 형태가 된다. 이 경우에도 Gallager 상한은 영역 1·3에서 지수적 감소, 영역 2에서 서브지수적 감소를 보이며, 이산 입력과 동일한 다양성‑전송률 트레이드오프가 나타난다. 마지막으로 논문은 실용적인 관점에서 이 결과가 의미하는 바를 논의한다. 전송률이 중간 구간에 위치할 때만 다양성 차수가 급격히 감소하므로, 고신뢰성이 요구되는 시스템(예: 유선 전송, ITU‑T G.821 규격)에서는 가능한 한 낮은 전송률을 선택하거나, 영역 2를 피하도록 설계해야 한다. 또한, Gallager 상한이 실제 코드와 매우 근접하기 때문에, 설계 단계에서 이 상한을 이용해 성능 예측 및 파라미터 최적화를 수행할 수 있다. 전체적으로 본 연구는 AWGN 채널에서 전송률에 따른 다양성 차수 변화를 이론적 상한·하한과 실험적 결과를 통해 종합적으로 밝히며, 기존에 BPSK에 국한되었던 현상을 일반화하고 실용적인 설계 지침을 제공한다.