주파수 스프레딩 기반 SVD 빔포밍으로 FBMC/OQAM 성능 혁신

본 논문은 다중입력‑다중출력(MIMO) 시스템에서 널리 사용되는 특이값 분해(SVD) 기반 빔포밍을 필터뱅크 다중캐리어(FBMC)와 오프셋 사인파 변조(OQAM) 방식에 적용하려는 시도가 기존에 실패한 이유를 심층적으로 분석하고, 이를 극복하기 위한 새로운 아키텍처와 알고리즘을 제시한다. **1) 배경 및 문제점** FBMC/OQAM은 사이클릭 프리픽스(CP)가 없고 실수‑가상 성분을 별도 전송함으로써 스펙트럼 효율이 높지만, MIMO 프리코딩/디코딩이 복잡해지는 단점이 있다. 특히 SVD 기반 빔포밍을 그대로 적용하면, 서브채널 간 채널 행렬 Hₘ가 급격히 변하면서 전송 전후의 빔포밍 행렬 Vₘ와 Uₘ이 크게 달라진다. 이 경우 Uᴴₘ₀ Hₘ Vₘ가 복소수가 되어, FBMC/OQAM에서 기대하는 순수 허수형 ICI/ISI가 실수 영역에 섞여 복원 과정에서 심각한 오류가 발생한다. 기존 연구들은 SLNR, SINR 최적화 등으로 ICI/ISI를 억제했지만, 복잡도가 크게 증가하고 OFDM 대비 성능 격차가 남는다. **2) 제안 아키텍처: FS‑FBMC 기반 톤‑레벨 SVD 빔포밍** 저자들은 FS‑FBMC(Frequency Spreading FBMC) 구조를 채택한다. FS‑FBMC는 전통적인 시간‑도메인 필터뱅크 대신 FFT 기반의 주파수 스프레딩/디스프레딩을 이용해 K·M 길이의 FFT/IFFT를 수행하고, 각 FFT 톤에 대해 프로토타입 필터 G(k)를 곱해 전송한다. 이 구조는 각 톤이 좁은 대역폭을 차지하므로, 동일 채널 내에서 Hₖ, Vₖ, Uₖ가 서브채널보다 훨씬 부드럽게 변한다. 따라서 빔포밍을 서브채널이 아닌 톤 단위로 수행하면 인접 톤 간 행렬 차이가 작아져 ICI/ISI 누설을 자연스럽게 감소시킬 수 있다. **3) 빔포밍 스무딩 기법** 톤‑레벨 빔포밍을 적용한 뒤에도 Vₖ와 Uₖ가 완전히 연속적이지 않을 수 있다. 이를 해결하기 위해 두 가지 스무딩 방법을 제안한다. - **위상 인자 최적화(Phase‑Factor Optimization)** SVD는 고유벡터에 임의의 위상 인자를 곱해도 동일한 분해를 유지한다. 각 톤 k에 대해 위상 θₖ를 선택해 ‖Vₖ₊₁ − e^{jθₖ}Vₖ‖₂를 최소화한다. 이는 1‑차원 최적화 문제이며, 각 톤마다 전역 최소값을 구하면 인접 톤 간 위상 차이가 최소화되어 빔포밍 벡터가 부드럽게 연결된다. - **직교 반복(Orthogonal Iteration)** 위상 최적화만으로는 벡터가 영에 가까워질 때 위상 연속성이 깨지는 문제를 보완한다. 인접 톤의 빔포밍 행렬을 초기값으로 삼아 QR 분해 후 재정규화하는 직교 반복을 여러 차례 수행한다. 이 과정은 Vₖ₊₁이 Vₖ와 가장 가까운 직교 행렬이 되도록 보장한다. 동일하게 Uₖ에 대해서도 적용한다. 직교 반복은 행렬 차원 L에 대해 O(L³) 연산이지만, 톤 수가 많아도 병렬 처리와 사전 계산으로 실시간 적용이 가능하다. 스무딩 목표는 인접 톤 간 유클리드 거리 ‖Vₖ₊₁ − Vₖ‖₂와 ‖Uₖ₊₁ − Uₖ‖₂를 최소화하는 것이며, 이를 통해 Uᴴₖ Hₖ Vₖ가 거의 실수값에 가깝게 유지된다. 결과적으로 ICI/ISI는 허수 성분에 머무르고, 수신 측에서 실수 부분만 추출하면 기존 SVD‑OFDM과 동일한 최대우도(ML) 복원이 가능하다. **4) 시스템 모델 및 수식 정리** 논문은 FBMC/OQAM의 기본 모델을 (1)~(3)식으로 정리하고, MIMO SVD 빔포밍을 (4)~(6)식으로 제시한다. 이어서 SVD‑FBMC 결합 시 발생하는 ICI/ISI 항을 (8)식으로 명시하고, 인접 서브채널 간 Hₘ와 Vₘ의 차이로 인해 실수 영역에 누설되는 현상을 설명한다. 이후 FS‑FBMC 구조를 (9)~(13)식으로 도입하고, 제안된 톤‑레벨 빔포밍을 (12)~(16)식으로 구체화한다. **5) 시뮬레이션 설정 및 결과** IEEE 802.11n 20 MHz 대역, 2×2 MIMO, 64‑QAM을 사용했으며, 채널 모델은 IEEE 802.11n 표준에 정의된 3‑tap 및 6‑tap 다중 경로 모델을 적용하였다. 비교 대상은 기존 SVD‑OFDM, 기존 SVD‑FBMC(서브채널 단위), 그리고 제안 SVD‑FS‑FBMC(위상 최적화 및 직교 반복 각각)이다. 결과는 다음과 같다. - 제안 시스템은 모든 채널 모델에서 BER이 OFDM 대비 0.2~0.5 dB 이내 차이로 수렴한다. - 기존 SVD‑FBMC은 동일 조건에서 2~3 dB 정도 성능 저하를 보이며, 특히 높은 스펙트럼 효율을 요구하는 경우 오류율이 급격히 상승한다. - 위상 최적화만 적용해도 상당한 성능 향상이 나타나며, 직교 반복을 추가하면 거의 완벽에 가까운 실수‑가상 분리를 달성한다. - 복잡도 분석에서는 FFT/IFFT와 추가적인 위상 최적화(1‑차원 탐색) 및 직교 반복(수 차례 QR 분해)만 추가되므로, 전체 연산량이 OFDM 대비 10~15 % 정도 증가한다. **6) 결론 및 향후 과제** 본 논문은 “톤‑레벨 SVD 빔포밍 + 스무딩”이라는 새로운 설계 패러다임을 제시함으로써, FBMC/OQAM이 MIMO 환경에서도 OFDM과 동등하거나 그에 근접한 성능을 달성할 수 있음을 실증하였다. 제안 방식은 CP가 없는 고효율 다중접속 시스템, 특히 5G‑NR 및 차세대 WLAN에서 FBMC 기반 변조 방식을 재조명하는 중요한 계기가 될 것으로 기대된다. 향후 연구에서는 다중사용자 MIMO, 대규모 안테나(Massive MIMO) 환경에서의 확장, 그리고 실시간 구현을 위한 하드웨어 최적화가 과제로 남는다.