공역 감지를 위한 고유값 기반 스펙트럼 센싱 알고리즘

본 논문은 인지 라디오 시스템에서 2차 사용자가 주파수 대역을 동적으로 활용하기 위해 반드시 수행해야 하는 스펙트럼 감지 문제를 다룬다. 기존의 에너지 검출, 매치드 필터링, 사이클 스테이션리티 검출 등은 각각 신호·채널·잡음에 대한 사전 지식이 필요하거나, 잡음 불확실성에 취약한 단점을 가지고 있다. 특히, 잡음 파워를 정확히 추정하지 못하면 SNR 월(SNR wall)이 발생해 탐지 성능이 급격히 저하된다. 이에 저자들은 수신된 다중 안테나 혹은 오버샘플링된 신호의 공분산 행렬을 이용한 두 가지 새로운 감지 알고리즘을 제안한다. 첫 번째는 Maximum‑Minimum Eigenvalue (MME) 방식으로, 공분산 행렬의 최대 고유값 λ_max와 최소 고유값 λ_min의 비율 λ_max/λ_min 를 계산하고, 이 비율이 사전에 정해진 임계값 γ_1 을 초과하면 신호가 존재한다고 판단한다. 두 번째는 Energy with Minimum Eigenvalue (EME) 방식으로, 공분산 행렬의 평균 고유값 Δ(=trace(R_x)/ML)와 최소 고유값 λ_min 의 비율 Δ/λ_min 를 사용한다. 평균 고유값은 신호 에너지와 거의 동일하므로, Δ/λ_min > γ_2 로 판단한다. 이론적 배경으로는 랜덤 매트릭스 이론(RMT)을 활용한다. 샘플 공분산 행렬 R_x(N_s)는 실제 통계 공분산 R_x와 차이가 있지만, N_s가 충분히 크면 Marčenko‑Pastur 법칙에 따라 고유값 분포가 수렴한다. 특히, 잡음만 존재할 경우 λ_max와 λ_min 은 각각 σ_η^2(1+√c)^2 와 σ_η^2(1-√c)^2 로 근사되며, 여기서 c=ML/N_s 이다. 이러한 근사를 이용해 허위 경보 확률(PFA)와 탐지 확률(PD)을 닫힌 형태로 유도하고, 원하는 PFA에 맞는 γ_1, γ_2 를 역산한다. 핵심적인 수학적 근거는 다음과 같다. 공분산 행렬은 R_x = H R_s H† + σ_η^2 I 로 분해되며, 고유값 λ_i = ρ_i + σ_η^2 로 표현된다. 신호가 없을 때는 ρ_i=0 이므로 모든 λ_i = σ_η^2, 즉 λ_max/λ_min = 1. 신호가 존재하면 최소 고유값은 여전히 잡음 파워에 가깝고, 최대 고유값은 신호에 의해 크게 증가한다. 따라서 λ_max/λ_min > 1 은 신호 존재의 충분한 증거가 된다. 평균 고유값 Δ는 R_s 의 트레이스와 직접 연관되며, 부록 B에서 Δ와 신호 파워 사이의 등가성을 증명한다. 잡음 불확실성 문제는 에너지 검출에서 α·σ_η^2 로 모델링되며, α는 dB 단위로 B 범위 내에서 균등하게 변한다. 고유값 기반 방법은 최소 고유값 자체가 잡음 파워를 추정하므로 α에 대한 민감도가 크게 감소한다. 또한, 신호가 고도로 상관된 경우(예: 다중 마이크로폰, 오버샘플링된 디지털 변조) ρ_1이 크게 증가해 λ_max/λ_min 비율이 크게 상승, 따라서 탐지 성능이 크게 향상된다. 알고리즘 절차는 다음과 같다. (1) 수신 신호를 L개의 연속 샘플로 묶어 ˆx(n) 을 만든다. (2) 샘플 공분산 행렬 R_x(N_s) 를 계산한다. (3) 고유값 분해를 수행해 λ_max, λ_min, 그리고 평균 고유값 Δ 를 얻는다. (4) 비율을 계산하고 사전 정의된 임계값과 비교한다. 임계값은 RMT 기반 분석을 통해 PFA에 맞게 설정한다. 복잡도는 공분산 행렬 차원 ML 에 따라 O((ML)^3) 이며, 실시간 구현을 위해 Power Iteration, Lanczos 알고리즘 등 효율적인 고유값 추정 기법을 적용할 수 있다. 시뮬레이션에서는 세 가지 시나리오를 사용했다. (i) 무작위 복소 가우시안 신호, (ii) 무선 마이크로폰 신호, (iii) 실제 ATSC DTV 신호. 각각에 대해 SNR을 -20 dB ~ 0 dB 범위로 변화시키고, 잡음 불확실성 B=2 dB 를 적용했다. 결과는 MME와 EME 모두 목표 PFA=10^{-3} 에 대해 P_D≈0.9~0.99 를 달성했으며, 특히 신호가 고도로 상관될수록 에너지 검출 대비 10~15% 높은 탐지율을 보였다. 또한, 잡음 불확실성에 대한 민감도가 크게 감소해, α가 2 dB 변동해도 성능 저하가 거의 없었다. 결론적으로, 고유값 기반 스펙트럼 감지는 (1) 잡음 파워를 별도 추정할 필요가 없어 잡음 불확실성에 강인, (2) 신호 상관도가 높은 경우 에너지 검출보다 우수한 성능, (3) 신호·채널·잡음에 대한 사전 지식이 전혀 필요 없는 블라인드 감지라는 장점을 제공한다. 향후 연구 과제로는 임계값 설정을 위한 실시간 적응 기법, 저복잡도 고유값 추정 알고리즘, 그리고 다중 사용자·다중 채널 환경에서의 공동 감지 전략이 제시된다.