QDB 변조 PDM‑FTN 시스템을 위한 훈련 심볼 기반 적응 등화

본 논문은 고속 광통신에서 스펙트럼 효율을 극대화하기 위해 사용되는 Quadrature Duobinary(QDB) 변조와 Polarization Division Multiplexed Faster‑than‑Nyquist(FTN) 전송 방식에 초점을 맞춘다. 기존 연구에서는 CMA(Constant Modulus Algorithm)와 MMA(Multi‑Modulus Algorithm) 같은 블라인드 적응 등화가 적용되었지만, 수렴 속도가 느리고 편광 출력이 동일 신호로 수렴하는 ‘singularity’ 문제, 그리고 위상 불확실성을 해결하기 위해 차등 코딩을 사용하면서 발생하는 성능 저하가 있었다. 또한 DD‑LMS(Decision‑Directed LMS)도 채널 왜곡이 심할 경우 위상 사이클 슬립과 수렴 실패를 겪는다. 이러한 문제를 해결하고자 저자들은 훈련 심볼 기반 LMS 알고리즘(TS‑LMS)을 제안한다. QDB 연산은 현재 심볼에 이전 심볼을 더하는 구조로, 동일 비트 조합이 여러 좌표에 매핑될 수 있다. 따라서 훈련 심볼을 단일 위치에 고정시키는 전통적인 TS‑LMS는 적용이 어려웠다. 논문에서는 훈련 심볼이 가질 수 있는 후보 위치(t = 1, 2, 4)를 모두 고려하고, 수신된 심볼과 파일럿‑보조 위상 추정값을 이용해 최소 Euclidean 거리를 갖는 후보를 선택하는 규칙(식 1)을 도입하였다. 알고리즘은 훈련 모드와 트래킹 모드로 구성된다. 훈련 모드에서는 N₁개의 연속 훈련 심볼을 사용해 LMS 기반 등화기를 사전 수렴시킨다. 이후 N₂개의 훈련 심볼을 매 Nb 심볼마다 삽입해 DD‑LMS를 통해 채널 변동을 실시간 추적한다. 훈련 심볼은 4‑QAM에서는 “01”, “10”, 16‑QAM에서는 “1100”, “0011” 등으로 무작위 선택해 위상 사이클 슬립을 검출·보정한다. 시뮬레이션 환경은 VPI TransmissionMaker를 이용해 5채널(중심 채널만 평가) PDM‑FTN 시스템을 구성하였다. 각 채널 32 Gbaud, 채널 간격 Δf = 30 GHz, 레이저 라인폭 100 kHz(위상 잡음 테스트 시 1 MHz)이며, 색산산란 및 비선형은 무시하고 1차 PMD(50 ps DGD)와 45° SOP 오프셋을 최악 조건으로 적용했다. 수신 측에서는 11‑tap butterfly형 적응 필터와 파일럿‑보조 ML 위상 복구를 사용했으며, QDB와 THP 두 가지 전송 방식을 비교했다. 수렴성 실험에서 TS‑LMS는 Δϕ가 0°~90° 전 범위에서 100 % 수렴률을 보였으며, 독립적인 DD‑LMS는 25°~65° 구간에서 0.25 % 이하의 성공률을 기록했다. BER‑OSNR 측정에서는 4‑QAM에서 TS‑LMS가 CMA‑with‑Differential‑Coding 대비 SbS에서는 1.7 dB, MLSD에서는 1.3 dB 낮은 OSNR으로 2 × 10⁻² BER을 달성했다. 16‑QAM에서는 각각 1.8 dB와 0.8 dB의 개선을 보였다. 위상 사이클 슬립은 CMA 기반 시스템에서 관측되었지만 TS‑LMS에서는 전혀 발생하지 않았다. THP와의 비교에서는 4‑QAM에서 QDB‑TS‑LMS가 SbS와 MLSD 모두에서 THP보다 0.5 dB~2.4 dB 우수했으며, 16‑QAM에서는 QDB가 THP보다 약 1 dB 열위에 있었다. 이는 QDB 연산이 16‑QAM의 그레이 매핑 대칭성을 깨뜨려 심볼 간 최소 거리 감소를 초래하기 때문이다. 채널 간격 압축 실험에서는 QDB‑4‑QAM이 Δf = 23 GHz, QDB‑16‑QAM이 Δf = 28 GHz까지 1 dB OSNR 페널티 내에서 압축 가능했으며, THP는 각각 27.5 GHz와 28 GHz에서 동일한 페널티를 보였다. 결론적으로, 제안된 TS‑LMS는 QDB‑PDM‑FTN 시스템에서 훈련 심볼의 다중 후보 문제를 해결하고, 편광 복조의 수렴성을 크게 향상시킨다. 특히 4‑QAM 환경에서 THP 대비 OSNR 절감 및 채널 간격 압축 효율이 뛰어나 차세대 고용량 광통신 시스템에 실용적인 대안이 될 수 있다.