상관엔트로피 기반 ADMM으로 강인한 고광谱 혼합 해석

고광谱 영상은 수백 개의 연속적인 스펙트럼 밴드로 구성되어, 각 픽셀은 여러 순수 물질(엔드멤버)의 선형 결합으로 표현된다. 전통적인 스펙트럼 혼합 해석은 선형 혼합 모델(LMM)을 기반으로, 최소제곱(ℓ₂) 손실을 최소화하면서 비음성(ANC)과 합계 1(ASC) 제약을 적용한다. 그러나 실제 촬영에서는 대기 효과, 센서 노이즈 등으로 인해 약 20% 정도의 밴드가 저신호대비잡음(SNR) 상태가 되며, 이러한 이상치는 ℓ₂ 손실이 큰 잔차에 대해 제곱 가중치를 부여하기 때문에 복원 품질을 급격히 저하시킨다. 본 논문은 이러한 문제점을 해결하기 위해 정보이론에서 유도된 상관엔트로피(maximum correntropy) 기준을 도입한다. 상관엔트로피는 두 변수 사이의 비선형 유사성을 가우시안 커널을 통해 측정하며, 잔차가 작을 때는 ℓ₂와 유사하게 작동하지만, 잔차가 커질수록 지수적으로 감소하여 큰 이상치의 영향을 억제한다. 이 특성을 활용해, 저자는 다음 두 형태의 최적화 문제를 정의한다. 1. **완전 제약(CUSAL‑FC)**: 비음성 및 합계 1 제약을 동시에 만족하도록, 목적함수를 ‑∑ₗ exp(−‖yₗ−(MX)ₗ‖²/(2σ²)) 로 설정하고, 각 픽셀에 대해 xₜ ≥ 0, 1ᵀxₜ = 1 을 강제한다. 2. **희소 제약(CUSAL‑SP)**: 비음성 제약만 유지하고, ℓ₁ 정규화 λ‖xₜ‖₁ 를 추가해 희소성을 촉진한다. 목적함수는 위의 상관엔트로피 손실에 ℓ₁ 항을 더한 형태가 된다. 두 문제 모두 비선형 손실과 제약이 결합된 형태이므로 직접 해를 구하기 어렵다. 저자는 교대 방향 승수법(ADMM)을 적용해 변수 x와 보조 변수 z를 번갈아 업데이트한다. 구체적으로, x‑업데이트 단계에서는 상관엔트로피 손실과 합계 1 제약을 포함한 비선형 최적화 문제를 half‑quadratic 변환을 통해 근사한다. z‑업데이트는 비음성 및 ℓ₁ 정규화에 대한 프로젝션(즉, 양수 투영 및 소프트 임계값 연산)으로 간단히 해결된다. 라그랑주 승수 u와 페널티 파라미터 ρ는 수렴을 보장하도록 적절히 조정된다. 알고리즘 흐름은 다음과 같다. (1) 초기값 설정 후, (2) x‑업데이트: 상관엔트로피 손실의 그래디언트를 계산하고, 합계 1 제약을 라그랑주 승수와 함께 포함한 2차식 형태로 최소화, (3) z‑업데이트: 양수 투영 및 ℓ₁ 정규화에 대한 소프트 임계값 적용, (4) u‑업데이트: 잔차 Ax + Bz − c 를 기반으로 라그랑주 승수 갱신, (5) 수렴 기준(프라임 잔차와 이중 잔차) 만족 시 종료. 실험에서는 두 가지 시나리오를 사용한다. 첫 번째는 합성 데이터로, 100개의 엔드멤버와 200개의 픽셀을 생성하고, 20% 밴드에 가우시안 및 임펄스 노이즈를 삽입했다. 두 번째는 실제 AVIRIS 데이터셋을 사용해, 알려진 지상 진실과 비교하였다. 평가 지표는 평균 제곱근 오차(RMSE)와 스펙트럼 각도(SAD)이며, CUSAL‑FC와 CUSAL‑SP는 기존 FCLS, SUnSAL, KFCLS 등에 비해 15~30% 정도의 성능 향상을 보였다. 특히 이상치 비율이 30% 이상으로 증가할 때, ℓ₂ 기반 방법은 오차가 급격히 상승하지만 상관엔트로피 기반 방법은 비교적 안정적인 결과를 유지한다. 또한, 커널 폭 σ의 선택이 중요한데, σ가 작을수록 작은 잔차에 민감해 과적합 위험이 있고, σ가 크면 ℓ₂와 유사해져 강인성이 감소한다. 저자는 데이터의 노이즈 레벨을 추정해 자동으로 σ를 조정하는 heuristic을 제안했으며, 실험 결과 이 방법이 고정 σ보다 일관된 성능을 제공한다. 결론적으로, 본 논문은 고광谱 이미지의 이상치와 저품질 밴드에 강인한 새로운 혼합 해석 프레임워크를 제시한다. 상관엔트로피 손실과 ADMM의 결합은 비선형 손실을 효율적으로 다루면서 물리적 제약을 유지할 수 있게 하며, 실험을 통해 기존 방법 대비 실질적인 성능 향상을 입증한다. 향후 연구에서는 커널 선택의 이론적 분석, 비선형 혼합 모델에의 확장, 그리고 실시간 처리 가능성을 위한 가속화 기법이 제안될 수 있다.