디지털 비선형 보상으로 고용량 광통신 성능 최적화

본 논문은 고용량 광섬유 통신 시스템에서 발생하는 Kerr 비선형성을 디지털 방식으로 보상하는 기술, 즉 다채널 디지털 백프로파게이션(MC‑DBP)의 성능과 최적화 방안을 종합적으로 조사한다. 연구 배경으로는 광통신이 전 세계 디지털 트래픽의 95 % 이상을 담당하고 있으나, 비선형 효과가 전송 용량을 제한하고 있다는 점을 들었다. 기존 연구에서는 단일채널 DBP, 비선형 사전보정, 광학 위상 공역 등 다양한 NLC 기법이 제안되었지만, 실제 시스템에 적용하기 위해서는 연산 복잡도와 구현 비용을 최소화해야 한다는 과제가 남아 있었다. 논문은 9채널·32 Gbaud Nyquist‑스페이스 WDM 시스템을 실험 모델로 채택했다. 각 채널은 DP‑QPSK, DP‑16QAM, DP‑64QAM, DP‑256QAM 네 가지 변조 방식을 사용했으며, 전송 거리는 25구간(각 80 km) 총 2000 km의 SSMF이다. 전송 파라미터는 손실 0.2 dB/km, 색분산 17 ps/nm/km, 비선형 계수 1.2 /W/km 등 표준 SMF 값을 적용했다. 송신 측에서는 9‑라인 레이저 콤을 32 GHz 간격으로 배열하고, 루트‑롤오프 0.1 % RRC 필터로 Nyquist 펄스를 생성했다. 수신 측에서는 이상적인 동기 검출과 디지털 로컬 오실레이터를 가정했으며, 전처리로 주파수‑도메인 이퀄라이저(EDC)를 적용했다. 디지털 비선형 보상은 역분할 스플릿‑스텝 Fourier 방법을 이용해 Manakov 방정식을 풀어 구현했으며, 백프로파게이션 대역폭을 32 GHz(단일채널)부터 288 GHz(전체 필드)까지 5단계로 확대하였다. 각 대역폭에 대해 필요한 스텝 수(MRNSPS)를 두 가지 최적화 기준, 즉 SNR 최적화와 달성 가능한 정보율(AIR) 최적화에 따라 측정하였다. SNR 기준 최적화 결과, 모든 변조 형식에 대해 동일한 MRNSPS가 요구되었다. 예를 들어, 전체 필드 NLC(288 GHz)에서는 500 steps/span이 필요했으며, 이는 비선형 보상의 정확성을 확보하기 위한 최소 단계 수였다. 반면, AIR 기준 최적화에서는 변조 차수에 따라 MRNSPS가 크게 달라졌다. DP‑QPSK은 100 steps/span으로도 AIR가 최대화되었지만, DP‑256QAM은 500 steps/span이 필요했다. 이는 고차 변조가 비선형 왜곡에 더 민감해, 동일한 정보율을 달성하려면 더 정밀한 수치 적분이 필요함을 의미한다. 시뮬레이션 결과를 통해 두 가지 중요한 현상이 확인되었다. 첫째, 부분 대역폭 NLC(예: 7채널)에서는 신호‑신호 상호작용이 주된 비선형 손실이며, 이는 변조 형식에 따라 SNR 차이를 만든다. DP‑QPSK은 고차 변조에 비해 신호‑신호 비선형성이 작아, 동일 전력에서 더 높은 SNR를 유지한다. 둘째, 전체 필드 NLC에서는 신호‑노이즈 상호작용이 지배적이며, 이 경우 모든 변조 형식이 거의 동일한 SNR 곡선을 보였다. 즉, 비선형 보상의 범위가 넓어질수록 비선형 왜곡이 평균화되어 변조 의존성이 사라진다. 성능 측면에서는 AIR가 가장 직관적인 지표로 사용되었다. 전체 필드 NLC에서 DP‑256QAM은 6.5 dBm 전송 전력에서 4.20 Tbit/s의 AIR를 달성했으며, 이는 EDC 상태(2.86 Tbit/s) 대비 1.34 Tbit/s 향상된 수치다. 또한, 7채널 NLC를 적용한 DP‑256QAM은 DP‑64QAM 전체 필드 NLC보다 낮은 전력 구간(≤3.5 dBm)에서 더 높은 AIR를 제공했다. 이러한 결과는 목표 AIR를 달성하기 위해 변조 형식과 백프로파게이션 대역폭 사이에 트레이드오프가 존재함을 시사한다. 복잡도 관점에서, 목표 AIR가 주어졌을 때 저대역폭 NLC와 저차 변조를 조합하면 MRNSPS를 크게 줄일 수 있다. 예를 들어, 목표 AIR가 3 Tbit/s 수준이라면 DP‑64QAM을 7채널 NLC(25 steps/span)로 운용하거나, DP‑256QAM을 전체 필드 NLC(500 steps/span)로 운용하는 두 가지 옵션이 있다. 전력 소비와 실시간 처리 능력을 고려하면 전자가 훨씬 유리하다. 따라서 실제 시스템 설계자는 전송 거리, 전력 예산, 구현 복잡도 등을 종합해 최적의 변조 형식과 백프로파게이션 대역폭을 선택해야 한다. 결론적으로, 본 연구는 MC‑DBP의 최적화가 단순히 SNR를 높이는 것이 아니라, 실제 전송 시스템에서 달성 가능한 정보율을 극대화하는 방향으로 진행되어야 함을 강조한다. AIR 기반 최적화는 동일 비선형 보상 수준에서도 변조 형식에 따라 필요한 연산량을 크게 차별화시켜, 실용적인 고속 광통신 시스템 설계에 중요한 설계 자유도를 제공한다.