다중채널 신호 탐지: 신호 불일치 상황에서 선택적·조정형 검출기 설계

본 논문은 다중채널 신호 탐지 문제를 다루며, 특히 간섭과 잡음이 존재하고 신호 불일치가 발생하는 상황에 초점을 맞춘다. 기존의 다중채널 검출기들, 예를 들어 Kelly의 일반화 가능도비 검출기(KGLRT), 적응형 매치드 필터(AMF), 적응형 코히런트 추정기(ACE) 등은 신호 스티어링 벡터가 정확히 알려졌거나 신호가 특정 서브스페이스에 완전히 포함된다고 가정한다. 그러나 실제 시스템에서는 배열 캘리브레이션 오류, 포인팅 오류, 다중 경로 효과 등으로 인해 신호 스티어링 벡터가 명시된 서브스페이스와 불일치하게 된다. 이러한 불일치는 검출 성능을 크게 저하시킬 수 있다. 논문은 먼저 기존의 GLRT‑I와 2S‑GLRT‑I를 복습하고, 이들 검출기가 신호 불일치에 대해 취약함을 지적한다. 이를 보완하기 위해 두 개의 선택적 검출기, ABOR‑T‑I와 W‑ABOR‑T‑I를 제안한다. ABOR‑T‑I는 기존 GLRT‑I에 손실 계수 β를 더한 형태이며, W‑ABOR‑T‑I는 (1+GLRT‑I)·β 형태로 정의된다. 여기서 β = (1+˜xᴴP⊥_J˜x−˜xᴴPP⊥_J˜H˜x)⁻¹ 로, 신호와 간섭이 정규화된 에너지 비율을 반영한다. β가 작을수록(즉, 신호가 간섭에 대해 거의 orthogonal) 검출 통계량이 크게 증가해 불일치 신호를 효과적으로 억제한다. 그러나 이러한 강한 선택성은 실제 운용에서 발생하는 작은 위상 오차나 배열 불일치에 대해 과도하게 민감해, 견고한 검출이 요구되는 상황에서는 부적합하다. 이 문제를 해결하기 위해 저자들은 튜너블 검출기 T‑W‑ABOR‑T‑I를 도입한다. 이 검출기의 통계량은 t_T‑W‑ABOR‑T‑I = β^{κ−1}·(1+GLRT‑I) 이며, κ≥0인 튜너블 파라미터에 의해 선택성(κ↑)과 견고성(κ↓) 사이를 연속적으로 전환한다. κ=0이면 β^{−1}·(1+GLRT‑I) 가 되며, 이는 기존의 Adaptive Energy Detector(AED)와 동일한 형태로 가장 견고한 동작을 보인다. κ=1이면 t_T‑W‑ABOR‑T‑I = 1/(1−t_GLRT‑I) 로, GLRT‑I와 단조 증가 관계에 있어 선택적 검출기와 동등하게 된다. κ=2이면 W‑ABOR‑T‑I와 일치한다. 따라서 하나의 검출기로 기존의 여러 검출기를 대체할 수 있다. 통계적 분석에서는 GLRT‑I가 비중심 F‑분포 C_F(p, L−N+q+1; ρ_eff·β) 를 따르고, β는 비중심 베타 분포 C_B(L−N+p+q+1, N−p−q; δ²) 로 모델링된다. 여기서 ρ_eff는 효과적인 SNR이며, ρ_eff = ρ_SNR·sin²ψ·cos²θ 이다. ρ_SNR = ˜s₀ᴴ˜s₀는 간섭이 없을 때의 전통적인 SNR, sin²ψ는 신호가 간섭 서브스페이스와 직교한 정도, cos²θ는 신호와 간섭이 겹치는 정도를 나타낸다. cos²θ가 1이면 완전 일치, 0에 가까우면 심한 불일치를 의미한다. 논문은 cos²θ와 기존의 신호 불일치 메트릭 cos²φ(간섭이 없는 경우) 사이의 관계를 정리하고, cos²φ=1이면 반드시 cos²θ=1이지만 그 역은 성립하지 않음을 증명한다. PD와 PFA는 β에 대한 조건부 확률을 적분해 구한다. ABOR‑T‑I와 W‑ABOR‑T‑I의 PD는 (22), (23)식으로, T‑W‑ABOR‑T‑I는 κ와 임계값 η_t에 따라 네 가지 경우(24)–(27)로 나뉜다. CDF P₁(η)와 PDF f₁(β)는 비중심 F·베타 함수와 불완전 감마 함수를 이용해 명시적으로 표현된다. H₀ 가설 하에서는 ρ_eff=0이므로 GLRT‑I는 순수 비중심 F‑분포를 따르고, β는 순수 베타 분포가 된다. 이를 이용해 PFAs를 구하고, 원하는 PF A=10⁻³에 맞추어 임계값을 설정한다. 시뮬레이션에서는 N=12, L=2N, p=1, q=2, INR=10 dB, 잡음 상관계수 ε=0.9 등 현실적인 파라미터를 사용하였다. 결과는 다음과 같다. (1) 신호 불일치가 없을 때 ABOR‑T‑I와 W‑ABOR‑T‑I는 기존 GLRT‑I와 거의 동일한 ROC 곡선을 보이며, 선택적 검출기가 기존 검출기의 성능을 손상시키지 않음을 확인한다. (2) 신호 불일치가 존재할 경우 두 선택적 검출기는 불일치 신호에 대한 거부율을 크게 향상시킨다. 특히 κ를 0.5~1.5 사이로 조정한 튜너블 검출기는 불일치에 대한 견고성을 유지하면서도 선택성을 적절히 확보해, 전체적인 ROC 곡선이 기존 검출기들을 압도한다. κ를 0으로 설정하면 가장 견고하지만 선택성이 낮아 검출 성능이 다소 감소하고, κ를 2 이상으로 설정하면 선택성이 극대화되어 불일치 신호를 거의 완전히 차단한다. 결론적으로, 논문은 (i) β라는 손실 계수를 도입해 검출 통계량에 직접 신호‑간섭 관계를 반영함으로써 선택적/견고적 특성을 제어, (ii) κ 파라미터를 통해 하나의 검출기로 다양한 운용 요구사항을 만족시킬 수 있는 튜너블 구조를 제시, (iii) 비중심 F·베타 분포를 이용한 정확한 PD·PFA 분석을 제공한다는 점에서 의미가 크다. 이러한 설계는 전자전, 레이더, 무선통신 등 다중채널·다중공간 간섭 환경에서 실시간 적응형 검출기로 확장될 가능성을 시사한다.