필터 출력 절단 기반 스펙트럼 효율 MIMO‑FBMC 설계와 보상 기법

본 논문은 필터 뱅크 멀티캐리어(FBMC) 시스템이 제공하는 낮은 옆밴드 방출과 높은 스펙트럼 효율을 유지하면서, 필터 길이로 인한 시간적 오버헤드를 제거하는 방안을 탐구한다. FBMC는 전통적인 OFDM과 달리 사이클릭 프리픽스(CP)를 사용하지 않으며, 고도로 로컬라이즈된 프로토타입 필터(예: IOTA)를 통해 ICI와 ISI를 자연스럽게 억제한다. 그러나 실제 구현에서는 필터가 유한한 길이(K·N)만을 갖게 되고, 이로 인해 각 전송 블록 앞뒤에 ‘테일’ 구간이 생겨 블록 크기가 작을 경우 스펙트럼 효율이 크게 감소한다. ‘필터 출력 절단(FOT)’은 이러한 테일을 완전히 버려 전송 시간 오버헤드를 없애는 방법이다. 하지만 필터의 전체 임펄스 응답을 사용하지 않으면, 심볼 간에 발생하는 ICI·ISI와 FBMC 고유의 ‘intrinsic interference’(실수·허수 성분이 서로 얽힌 간섭)가 크게 증가한다. 특히 MIMO 환경에서는 다중 안테나 간에 전송되는 복소수 심볼이 실·허수 브랜치로 분리되어 처리되므로, 이 간섭이 더욱 복합적으로 작용한다. 논문은 먼저 MIMO‑FBMC 시스템을 완전한 행렬 모델로 정식화한다. 전송 심볼 행렬 S∈ℂ^{N_t×M}에 대해, 각 심볼 s_{m,n}은 N_t 차원의 복소수 벡터이며, 이를 N-점 DFT/IDFT와 프로토타입 필터 행렬 P_I, P_Q(실·허수 브랜치)와 결합한다. 필터 행렬은 K·N 길이의 필터 계수를 대각 행렬 형태로 배치한 Toeplitz 구조이며, 중첩 계수 K에 따라 앞·뒤에 K·N−1개의 ‘zero‑padding’이 삽입된다. 채널은 L‑tap 다중 경로 라그(L)와 각 안테나 쌍에 대한 복소 가우시안 페이딩 계수 z_{ij}^{(l)}를 갖는 행렬 H로 표현된다. 전송 신호는 y = T·H·P·S + n 형태로 수신되며, 여기서 T는 FOT에 의해 앞·뒤 테일을 잘라낸 트렁케이션 매트릭스이다. T는 대각선이 아닌 비대각선 항을 포함하므로, y는 원래 심볼에 더해지는 ICI·ISI·intrinsic interference 항을 명시적으로 보여준다. 분석을 통해 다음과 같은 사실을 확인한다. 첫째, 트렁케이션 길이가 증가할수록(즉, 더 많은 테일을 버릴수록) SIR이 급격히 저하된다. 이는 필터의 충격 응답이 손실되어 심볼 간 상관성이 증가하기 때문이다. 둘째, 중첩 계수 K가 짝수와 홀수일 때 간섭 패턴이 다르게 나타난다. 짝수 K에서는 트렁케이션으로 인한 ISI가 주로 인접 심볼에 집중되어, 주파수 영역에서의 ICI가 비교적 작다. 반면 홀수 K에서는 ICI와 ISI가 동시에 발생해 복합적인 간섭 구조를 만든다. 셋째, MIMO 환경에서는 각 안테나 쌍마다 서로 다른 채널 응답이 곱해지면서 위의 간섭이 선형 결합된다. 따라서 단순한 스칼라 보정으로는 충분히 보상할 수 없으며, 전송·수신 전체에 대한 행렬 기반 보정이 필요하다. 이를 해결하기 위해 논문은 ‘보상 알고리즘’을 제안한다. 알고리즘은 트렁케이션 매트릭스 T의 구조를 사전 계산하고, 짝·홀수 K에 따라 별도의 보정 행렬 C_even, C_odd을 설계한다. 보정 행렬은 트렁케이션에 의해 손실된 필터 응답을 역추정하는 형태이며, 각 수신 심볼에 대해 y·C_k (k∈{even,odd}) 를 적용함으로써 원래의 필터링 효과를 복원한다. 중요한 점은 이 보정이 전송 측에 추가적인 심볼이나 패딩을 요구하지 않으며, 수신 측에서만 행렬 연산으로 구현 가능하다는 것이다. 시뮬레이션 결과는 다음과 같다. (1) 보상 전에는 FOT로 인해 SIR이 5 dB 이하로 떨어지지만, 보상 후에는 10 dB 이상 회복된다. (2) BER 측면에서는 보상 후 시스템이 FOT 없이 전송한 경우와 거의 동일한 성능을 보이며, 특히 16‑QAM, 64‑QAM 환경에서 10⁻³ 이하의 BER을 유지한다. (3) 보상 알고리즘은 추가적인 전송 오버헤드가 없으며, 복잡도는 행렬 곱셈 수준으로 실시간 구현이 가능하다. 결론적으로, 본 연구는 MIMO‑FBMC 시스템에서 필터 출력 절단을 통한 스펙트럼 효율 향상이 가능함을 수학적으로 증명하고, 제안된 보상 알고리즘을 통해 발생하는 간섭을 효과적으로 억제함으로써 기존 OFDM 기반 MIMO 시스템과 경쟁할 수 있는 성능을 달성한다. 이는 차세대 5G/6G 무선 통신에서 파편화된 스펙트럼을 효율적으로 활용하고, CP‑free 전송 구조를 구현하려는 연구자와 엔지니어에게 중요한 설계 지침을 제공한다.