기대전파 기반 반복 결합 피드백 등화

본 논문은 단일 캐리어 변조와 비트 인터리브드 코딩 변조(BICM) 시스템을 전제로, 다중 경로 채널에서 발생하는 심각한 인터심볼 간섭(ISI)을 최소화하기 위한 새로운 등화 기법을 제안한다. 기존의 터보 선형 등화(LE‑IC)와 결정 피드백 등화(DFE‑IC)는 각각 높은 데이터 전송률과 낮은 복잡도라는 장점을 가지고 있으나, 고스펙트럼 효율 구간에서는 성능이 제한적이다. 특히, 전통적인 하드 피드백 DFE‑IC는 오류 전파 문제로 인해 성능이 급격히 저하되고, 기존 소프트 피드백 기반 DFE‑IC는 피드백 분산을 정확히 추정하기 어려워 실용성이 떨어진다. 이를 해결하고자 저자들은 기대전파(Expectation Propagation, EP)라는 베이지안 근사 기법을 도입한다. EP는 사후 확률 분포를 가우시안 형태(평균·분산)로 근사하면서, 메시지 전달 과정에서 각 변수에 대한 기대값과 분산을 효율적으로 업데이트한다. 논문은 먼저 MMSE FIR 등화 모델을 일반화하여, 사전 평균(¯x_fir)과 사전 분산(¯v_fir)을 이용한 인터페이스와 현재 심볼에 대한 추정값(x̂_k) 및 잔여 분산(v̂_k)을 계산하는 수식을 도출한다(식 4). 여기서 DFE‑IC는 ¯x_fir와 ¯v_fir가 이전 심볼들의 추정값에 의존하도록 설계되어, 순차적인 피드백 루프를 형성한다. 핵심 기여는 다음과 같다. 1. **EP 기반 소프트 피드백 DFE‑IC**: 각 심볼에 대해 EP를 적용해 사후 가우시안 근사를 얻고, 이를 피드백으로 사용한다. 이 과정에서 피드백의 평균과 분산이 정확히 추정되므로 오류 전파가 크게 억제된다. 2. **시간 가변(TV) 필터 업데이트**: 채널이 시간에 따라 변하는 경우, 매 심볼마다 필터를 재계산해야 한다. 이를 위해 저자는 Woodbury 식을 활용한 재귀적 행렬 역산 알고리즘을 제안한다. 기존 TV LE‑IC 대비 30%~75%의 연산량 감소를 달성한다. 3. **자체 반복(self‑iteration) 구조**: EP 메시지를 이용해 외부 루프를 추가함으로써, 한 번의 등화·디코딩 과정을 여러 번 반복한다. 이때 매 반복마다 사전 정보가 업데이트되어 필터와 피드백이 점진적으로 개선된다. 실험 결과, 자체 반복을 적용했을 때 수렴 속도가 크게 빨라졌다. 4. **성능 및 복잡도 분석**: Proakis‑C와 같은 심하게 선택적인 채널을 사용해 시뮬레이션을 수행하였다. 제안된 DFE‑IC EP는 동일 조건의 TV LE‑IC 및 기존 DFE‑IC에 비해 전송률이 0.5~1.2 bit/s/Hz 더 높고, BER은 10⁻⁴ 수준에서 2~3 dB 이득을 보였다. 특히 고차 QAM(64‑QAM, 256‑QAM)과 높은 코드율(≥3/4) 상황에서 ‘워터폴’ 임계점이 크게 개선되어, 동일 복잡도 하에서 더 높은 스펙트럼 효율을 달성했다. 복잡도 측면에서는 필터 차수 N과 블록 길이 K에 대한 연산량을 정량화했으며, 제안 방식이 기존 선형 자기 반복 수신기와 비슷한 연산량을 유지하면서도 성능은 월등함을 입증했다. 또한, 논문은 기존 DFE‑IC 연구들을 크게 세 가지 카테고리(하드 피드백, 소프트 피드백, EP 기반)로 분류하고, 각각의 한계점을 상세히 분석한다. 하드 피드백은 오류 전파가 심하고, 소프트 피드백은 피드백 분산 추정이 부정확하거나 복잡도가 높으며, EP 기반은 아직 DFE‑IC와 결합된 사례가 부족했다는 점을 지적한다. 이러한 배경에서 EP를 DFE‑IC에 적용한 것이 본 연구의 혁신적인 점이다. 마지막으로, 저자는 제안된 알고리즘이 실제 시스템에 적용될 수 있도록 구현 복잡도와 메모리 요구사항을 고려한 설계 지침을 제공한다. 특히, 행렬 역산을 재귀적으로 수행함으로써 메모리 사용량을 최소화하고, 실시간 처리에 필요한 연산량을 크게 낮췄다. 이러한 설계는 고속 무선 통신, HF 통신, 그리고 차세대 5G/6G 시스템 등, 시간·주파수 선택성이 큰 채널 환경에서 유용하게 활용될 수 있다.