FDD 대규모 MIMO 다운링크 훈련의 보안 취약점: 스마트 재밍 공격

본 논문은 5G 및 차세대 무선 시스템에서 핵심 기술로 자리 잡은 대규모 MIMO(FDD) 환경에서 물리계층 보안 취약점을 조명한다. 기존 연구는 주로 TDD 시스템에서 파일럿 오염(pilot contamination)이나 하드웨어 보정 오류를 다루었지만, FDD 시스템은 다운링크 파일럿 전송과 UE‑BS 피드백이라는 별도 훈련 절차가 존재한다. 이 과정에서 다중 안테나 재머가 존재할 경우, 재머는 BS‑UE 채널 추정 정확도를 저하시켜 전체 시스템 성능을 크게 저하할 수 있다. 논문은 먼저 시스템 모델을 정의한다. BS는 M개의 안테나를 보유하고, L개의 파일럿 심볼을 전송한다. 파일럿 행렬 Φ는 유니터리(Φ^H Φ = I_L)이며, 기존 연구에서 최적 파일럿은 채널 공분산 R_h의 가장 큰 L개의 고유벡터로 구성된 Φ_opt = U_h(1:L) 로 알려져 있다. UE는 수신 신호 y = √P_b Φ^H h + √P_j Z^H g + w 를 이용해 MMSE 추정기를 적용한다. 여기서 h와 g는 각각 BS‑UE, 재머‑UE 채널이며, 각각 R_h와 R_g라는 공간 상관 공분산을 가진다. 재머는 자신의 채널 통계 R_g만을 사전에 알고 있다고 가정한다. 재머는 전송 신호 Z (N × L 행렬) 를 설계해 UE가 채널을 추정할 때 발생하는 평균 제곱오차(MSE)를 최대화하고자 한다. 논문은 MSE를 트레이스 형태로 표현하고, MSE 최대화 문제를 트레이스 최소화 문제로 변환한다. 핵심 결과는 Lemma 1을 통해, 재머의 최적 설계는 Z_opt = U_g(1:L) 라는 간단한 형태임을 보인다. 즉, 재머는 자신의 채널 공분산 행렬의 가장 큰 L개의 고유모드에 전력을 집중한다. 이 설계는 Z^H Z = I_L 를 만족하면서도 tr(Z^H R_g Z) 를 최대화해, BS가 설계한 최적 파일럿 Φ_opt에 대한 MSE 감소 효과를 역전시킨다. 수치 실험에서는 M = 100, N = 25, L을 20~100 사이에서 변화시키며, 채널 상관계수 r을 0.4와 0.7 두 경우로 설정한다. 실험 결과는 다음과 같다. 첫째, BS가 최적 파일럿을 사용하더라도 재머가 제안된 Z_opt을 전송하면 MSE가 약 0.5 수준으로 포화한다. 이는 파일럿 길이 L이 충분히 커도 재머 공격이 존재하면 추정 정확도가 크게 저하된다는 것을 의미한다. 둘째, 파일럿 길이 L이 BS 안테나 수 M에 근접할 때도, 재머가 존재하면 MSE는 여전히 높은 값을 유지한다. 셋째, 채널 상관도가 높을수록(r = 0.7) 재머의 영향이 더욱 크게 나타나, 기존의 단일‑샷 재밍이나 재밍이 없는 경우와 비교해 MSE가 수배 이상 증가한다. 넷째, BS 안테나 수를 늘려도 L이 고정된 상황에서는 차원 저주가 발생해 MSE가 다시 상승한다. 이러한 결과는 FDD 대규모 MIMO 시스템이 파일럿 설계만으로는 재머에 대한 물리계층 보안을 확보하기 어렵다는 점을 강조한다. 재머가 자신의 채널 고유모드에 집중 공격을 수행하면, BS가 채널 상관성을 활용해 설계한 최적 파일럿도 효과를 상실한다. 따라서 재머 탐지, 파일럿 무작위화, 재머 채널 추정에 기반한 적응형 전송 전략 등 추가적인 보안 메커니즘이 필요함을 시사한다. 논문은 이러한 보안 취약점을 최초로 규명하고, FDD 대규모 MIMO 시스템 설계 시 물리계층 보안을 고려해야 함을 강력히 주장한다.