대규모 MIMO에서 비원형 신호의 2D DOA·편파 추정을 위한 저복잡도 쿼터니언 MUSIC

1. 서론 밀리미터파 대역은 30 GHz~300 GHz의 넓은 스펙트럼과 짧은 파장을 이용해 수백 개 이상의 안테나를 작은 면적에 배치할 수 있다. 이러한 대규모(Massive) MIMO는 고스펙트럼 효율, 빔포밍, 사용자 다중화 등에 핵심적인 역할을 한다. 특히 전자기벡터센서(EMVS) 기반의 편파 감지 안테나는 신호의 도착각(azimuth θ, elevation ϕ)뿐 아니라 편파각(γ)과 위상(η)까지 동시에 측정할 수 있어, 채널 상관관계 추정, 사용자 구분, 보안 등 다양한 응용이 가능하다. 그러나 기존 연구는 원형 신호(예: QPSK, QAM) 전용 MUSIC·ESPRIT 기반 방법에 국한되었으며, 비원형 신호(BPSK, AM 등)의 비공액 공분산을 활용한 고정밀 추정 방법은 복잡도가 높아 실용화가 어려웠다. 2. 관련 연구 비원형 신호를 위한 NC‑MUSIC, NC‑ESPRIT, 루트‑NC‑MUSIC 등은 비공액 공분산을 이용해 DOA를 향상시켰지만, 다차원 비선형 최적화가 필요해 연산량이 급증한다. 또한, 편파 추정을 위한 기존 방법은 대부분 복소수 벡터 모델에 기반해 원형 신호에만 적용 가능했다. 쿼터니언 기반 MUSIC은 전자기파의 전기·자기 성분을 동시에 표현할 수 있으나, 비원형 신호에 대한 구체적 적용은 아직 부족했다. 3. 시스템 모델 및 쿼터니언 기초 - URA 형태의 M = Mx × My EMVS 배열을 가정하고, 각 EMVS는 x‑방향과 y‑방향 두 개의 dipole을 갖는다. - 수신 신호는 전기장 벡터 ξl(θl,ϕl,γl,ηl) 로 표현되며, 편파각 γ와 위상 η가 포함된다. - 비원형 신호는 비공액 공분산 R′≠0을 가지며, 이를 쿼터니언 행렬 형태로 재구성한다. 쿼터니언 연산(·#,·⋄ 등)과 복소수 연산을 구분하여 정의한다. 4. DRMUSIC (원형 신호용 차원 축소 MUSIC) - 전통적인 LV‑MUSIC은 전체 M‑차원 스펙트럼을 탐색한다. DRMUSIC은 스펙트럼 함수 f(θ,ϕ)의 편미분을 이용해 파라미터 차원을 2차원으로 축소한다. - DOA(θ,ϕ)는 2‑D 검색을 통해 추정하고, 편파(γ,η)는 다음과 같은 폐쇄형 식으로 직접 계산한다. \