대규모 MIMO 시스템을 위한 저차수 디지털 프리디스토션 기법

본 논문은 차세대 5G NR 및 향후 6G 시스템에서 대규모 MIMO 베이스스테이션이 수백 개의 전력증폭기(PA)를 동시에 구동해야 하는 현실적인 제약을 다룬다. PA는 전력 효율을 좌우하는 핵심 부품이지만, 비선형 구동 시 인밴드 및 아웃오브밴드 왜곡을 발생시켜 스펙트럼 레그로스와 에너지 손실을 초래한다. 기존 디지털 프리디스토션(DPD) 기술은 고차 볼테라 시리즈(Volterra) 기반 다항식 모델을 사용해 PA 비선형성을 보정한다. 그러나 안테나 수가 수백 개에 달하는 대규모 MIMO에서는 각 안테나마다 독립적인 고차 DPD를 적용해야 하므로 연산 복잡도와 메모리 요구량이 급격히 증가한다. 특히, PA 간 크로스토크와 메모리 효과를 포함하면 복잡도는 지수적으로 폭증한다. 이에 저자는 대규모 MIMO 시스템이 가지고 있는 ‘과잉 자유도(DoF)’를 활용해 DPD 차수를 낮추는 새로운 접근법을 제시한다. 기본 아이디어는 ZF(Zero‑Forcing) precoding 행렬이 다중 사용자에 대해 과잉 자유도를 제공하므로, 여러 가능한 precoding 해 중에서 PA 비선형성을 최소화하도록 선택할 수 있다는 점이다. 이를 위해 기존의 단일 단계 간접 학습 구조를 확장하여, 피드백 경로에 채널 행렬 H와 적응형 ZF precoding P를 포함한 ‘DPD‑Precoding 공동 학습’ 구조를 설계한다. 제안된 구조는 다음과 같은 흐름으로 동작한다. 1) 초기 precoding 행렬 P₀를 설정하고, 현재 P에 의해 입력된 신호 z₀를 측정한다. 2) 측정된 z₀와 실제 PA 출력 y를 이용해 LMS 알고리즘으로 DPD 계수 G를 업데이트한다. 3) 업데이트된 DPD를 적용한 후, 새로운 출력 신호를 기반으로 다시 LMS를 사용해 ZF precoding 행렬 P를 재조정한다. 4) 오류가 사전 정의된 임계값 이하가 될 때까지 2‑3 단계를 반복한다. 이 과정을 ‘Successive Refinement Filtering’이라고 부르며, 빠른 수렴 특성을 가진다. 수학적으로는 메모리 다항식 형태의 Volterra 모델을 사용한다. 입력 x(n)와 출력 y(n)은 다음과 같이 표현된다. y(n)=∑_{k=0}^{K}∑_{q=0}^{Q} ω_{k,q} |x(n−q)|^{k−1} x(n−q). 여기서 K는 비선형 차수, Q는 메모리 깊이이다. 제안 방식은 K를 3으로 제한하면서도 Q=5인 경우에 기존 11차 DPD와 동등한 선형화 성능을 달성한다. 복소수 FIR 필터당 6 FLOP(4 실수 곱셈 + 2 덧셈)라는 기본 연산량을 기준으로, 전체 FLOP 절감량은 4·(K_C−K_P)·Q·N_t 로 계산된다. 100×10 구성(N_t=100, Q=5)에서는 약 70%의 연산량 감소가 확인되었다. 시뮬레이션에서는 Saleh 모델 파라미터(α_a=2, β_a=2.2, α_φ=2, β_φ=1)를 사용해 PA 비선형성을 구현하고, 인접 안테나 간 20 dB 크로스토크를 가정했다. 3.5 GHz 중심 주파수와 10 MHz 대역폭의 5G NR 파형을 전송했으며, 스펙트럼 레그로스 측면에서 3차 DPD는 −70 dB, 9차 DPD는 −90 dB, 제안 3차 DPD는 −100 dB 수준의 억제를 보여 기존 고차 DPD와 동등하거나 더 우수한 성능을 입증했다. 실험 부분에서는 실제 Mini‑Circuits ZHL‑42 PA와 두 대의 USRP N210을 이용해 하이브리드 테스트베드를 구축했다. 전체 100 안테나 중 하나만 실제 PA로 구현하고 나머지는 시뮬레이션으로 대체했으며, 실시간 스펙트럼 분석기를 통해 출력 스펙트럼을 측정했다. NMSE 결과는 무DPD 상태에서 −18.41 dB였으며, 기존 3차 DPD는 −20.5 dB, 제안 방식은 −22.7 dB로 약 2 dB의 추가 개선을 보였다. 복잡도 측면에서도 FLOP 수가 기존 방식 대비 60% 이상 감소하였다. 결론적으로, 본 연구는 대규모 MIMO 시스템에서 PA 비선형 보정을 위한 고차 DPD의 필요성을 크게 낮추고, 시스템 전체의 연산 부하와 전력 소모를 감소시키는 실용적인 솔루션을 제시한다. 과잉 자유도를 활용한 DPD‑Precoding 공동 최적화는 차세대 베이스스테이션이 저비용 PA를 대량 배치하면서도 고품질 스펙트럼 특성을 유지하도록 돕는다. 향후 연구에서는 메모리 효과가 더 복잡한 광대역 신호, 다중 사용자 이동성, 그리고 하드웨어 구현을 위한 ASIC/FPGA 최적화 등을 다룰 예정이다.