다중사용자 MIMO 다운링크 선형 프리코딩을 이용한 합률 최대화

본 논문은 다중사용자 MIMO(Multiple‑Input Multiple‑Output) 다운링크 시스템에서 순간 합 데이터 전송률을 극대화하기 위한 선형 프리코딩·디코딩 및 전력 배분 알고리즘을 제안한다. 시스템 모델은 베이스 스테이션이 M개의 전송 안테나를 보유하고, K명의 사용자가 각각 N_k개의 수신 안테나와 L_k개의 데이터 스트림을 수신하는 구조를 가정한다. 전송 전력은 총합 P_max 이하로 제한되며, 채널 행렬 H_k는 완전히 알려져 있다고 가정한다. 전통적인 연구는 평균제곱오차의 합(SMSE)을 최소화하는 방향에 초점을 맞추어, 전력 할당 단계에서 가장 약한 스트림에 전력을 우선 배정하는 ‘역워터필링’ 방식을 채택했다. 이는 신뢰성(오류율) 감소에는 효과적이지만, 데이터 전송률을 직접적으로 높이는 데는 한계가 있다. 반면, 정보이론에서는 합용량을 최대화하기 위해 각 스트림에 물 흐름(water‑filling) 형태로 전력을 할당한다. 그러나 이러한 최적 전략은 비선형 프리코딩(Dirty Paper Coding)이나 사용자 순서 지정 등 복잡한 구현을 요구한다. 논문은 이러한 격차를 해소하고자, 합률 최대화 문제를 평균제곱오차의 곱(PMSE) 최소화 문제와 동등하게 변환한다. 구체적으로, 가상 업링크 모델을 도입하고, 각 스트림의 SINR γ_kj를 MMSE 수신기와 연결시켜 1/(1+γ_kj)=ε_kj(=MSE) 관계를 도출한다. 이를 로그 함수와 결합하면 합률 R_sum = Σ log₂(1+γ_kj) = –log₂(∏ ε_kj) 가 되므로, 합률을 최대화하는 것이 PMSE를 최소화하는 것과 동치임을 수학적으로 증명한다(Theorem 1). 알고리즘은 네 단계의 반복적 최적화로 구성된다. 1) **다운링크 프리코더 업데이트**: 고정된 가상 업링크 프리코더 V와 전력 q에 대해 MMSE 수신기 U = J⁻¹ H_k v_k √q_k 를 계산하고, 이를 정규화하여 다운링크 프리코더로 사용한다. 2) **다운링크 전력 할당**: MSE 듀얼리티를 이용해 p = σ²(D⁻¹ – Ψ)⁻¹ 1 로 전력을 업데이트한다. 여기서 D는 각 스트림에 대한 목표 SINR을 포함한 대각 행렬이고, Ψ는 교차 결합 행렬이다. 3) **가상 업링크 프리코더 업데이트**: 고정된 U와 p에 대해 가상 업링크 수신기 V_k = J_k⁻¹ H_kᵀ U_k √p_k 로 계산하고, 정규화하여 프리코더로 사용한다. 4) **가상 업링크 전력 할당**: PMSE 최소화 목적 함수 Σ ε_kj 를 비볼록 제약 하에 SQP(Sequential Quadratic Programming)으로 최적화한다. 각 단계에서 세 개의 변수는 고정하고 하나만 최적화하므로, 전체 목표 함수는 매 반복마다 감소한다. 비볼록성에도 불구하고, 초기값을 SMSE 기반 알고리즘 결과로 설정하면 수렴 속도가 빨라진다. 시뮬레이션에서는 K=2, M=4, N₁=N₂=2, L₁=L₂=2인 설정을 사용하고, 전송 전력 P_max=1, 다양한 SNR에서 성능을 평가한다. 비교 대상은 (i) Dirty Paper Coding(DPC) 기반 합용량, (ii) 블록 대각화(BD), (iii) 제로 포싱(ZF) 등 기존 선형 프리코딩 방법이다. 결과는 제안 알고리즘이 중·고 SNR 구간에서 BD·ZF보다 높은 합률을 달성하고, DPC와의 격차가 제한적임을 보여준다. 특히, PMSE 기반 설계가 전력 할당 단계에서 ‘워터필링’ 형태로 전력을 좋은 채널에 집중시켜, 전통적인 ‘역워터필링’ 방식보다 효율적인 데이터 전송을 가능하게 한다. 결론적으로, 본 연구는 (1) 합률 최대화와 PMSE 최소화의 동등성을 증명하고, (2) 업링크/다운링크 듀얼리티를 활용한 실용적인 선형 프리코딩·디코딩 설계 절차를 제시했으며, (3) 비볼록 전력 할당 문제를 SQP로 해결하면서도 수렴성을 확보했다는 점에서 의미가 크다. 이러한 접근은 다중 스트림·다중 안테나 환경에서 복잡한 비선형 프리코딩 없이도 높은 데이터 전송률을 구현하고자 하는 차세대 무선 시스템 설계에 유용한 지침을 제공한다.