일반화 선형·비선형 변동 모델을 위한 딥 오토인코더 기반 고광谱 분해

본 논문은 고광谱 이미지에서 픽셀당 스펙트럼이 여러 물질의 혼합으로 나타나는 현상을 해결하기 위해, 선형 혼합 성분과 비선형 변동 성분을 동시에 포함하는 일반화 모델을 제안한다. 기존의 선형 혼합 모델(LMM)은 각 물질이 한 번만 반사된다고 가정하지만, 실제 현장에서는 다중 산란, 복합 입자 상호작용 등으로 인해 비선형 효과가 발생한다. 이를 반영하기 위해 저자들은 x = Ma + Ψ(M,a) + n 형태의 모델을 도입한다. 여기서 M∈ℝ^{B×R}는 엔드멤버 행렬, a∈ℝ^{R}는 풍부도 벡터, Ψ는 엔드멤버와 풍부도의 곱에 의존하는 비선형 함수이며, n은 잡음이다. Ψ를 특정 수식으로 고정하지 않고, 데이터 자체로부터 학습하도록 설계한 것이 본 연구의 핵심이다. 이를 위해 딥 오토인코더 구조를 채택한다. 인코더 f_E는 입력 스펙트럼 x를 저차원 풍부도 추정 h(=â)로 압축한다. 인코더는 여러 완전 연결 층으로 구성되며, 활성화 함수는 ReLU를 사용하고, 마지막 층에서는 소프트맥스와 같은 정규화 기법을 적용해 ANC와 ASC 제약을 만족한다. 디코더 f_D는 두 부분으로 나뉜다. 첫 번째 선형 부분은 V^{(1)}h를 블록 대각 행렬 형태로 변환한 뒤, 단계적 합산 연산 T를 통해 Mâ를 재구성한다. 여기서 V^{(1)}∈ℝ^{BR×R}는 각 엔드멤버 스펙트럼을 포함하는 가중치이며, 학습이 끝난 후 V^{(1)}를 통해 엔드멤버 자체를 추출할 수 있다. 두 번째 비선형 부분은 동일한 V^{(1)}h를 입력으로 하는 다층 퍼셉트론(또는 3‑D CNN) Φ를 통해 Ψ̂를 근사한다. Φ는 충분히 깊은 구조를 가져 데이터에 내재된 복잡한 비선형 관계를 포착한다. 최종 재구성은 ˆx = T(V^{(1)}h) + Φ(V^{(1)}h)이며, 손실 함수 L는 재구성 오차 ‖x − ˆx‖²와 풍부도 제약을 위한 정규화 항, 그리고 네트워크 가중치에 대한 L2 정규화를 포함한다. 학습은 전체 오토인코더를 엔드투엔드 방식으로 최적화한다. 사전 훈련 없이 Adam 옵티마이저를 사용해 학습률 스케줄링을 적용하고, 배치 정규화와 드롭아웃을 통해 과적합을 방지한다. 실험에서는 세 가지 데이터셋을 활용한다. 첫 번째는 다양한 비선형 시뮬레이션(이중산란, 다항 비선형 등)과 SNR 변동을 포함한 합성 데이터로, 여기서 제안 방법은 RMSE와 스펙트럼 각도 거리(SAD) 모두에서 기존 LMM, GBM, PNMM, K‑Hype, 최신 딥 오토인코더 대비 10 % 이상 개선을 보였다. 두 번째는 실험실에서 라벨링된 실제 물질 혼합 데이터로, 물질 비율이 정확히 알려진 상황에서 제안 방법은 가장 낮은 추정 오차를 기록했다. 세 번째는 실제 항공 고광谱 이미지(AVIRIS 등)로, 지상 진실 라벨이 제한적이지만, 시각적 결과와 정량적 지표 모두에서 제안 방법이 더 선명한 경계와 정확한 풍부도 분포를 제공했다. 또한, 기존 비선형 모델과의 관계를 정리하면, Bilinear 모델, GBM, PNMM, K‑Hype 등은 모두 Ψ에 특정 형태를 가정한 특수 경우이며, 본 모델은 Ψ를 데이터 기반으로 학습함으로써 이들 모델을 포함한다는 점에서 일반성을 갖는다. 한계점으로는 엔드멤버 수 R을 사전에 알아야 한다는 전제와, 비선형 디코더 구조 선택에 따라 학습 안정성이 달라질 수 있다는 점이 있다. 저자들은 향후 연구에서 엔드멤버 수를 자동 추정하는 메커니즘, 3‑D CNN을 이용한 공간‑스펙트럼 연관성 강화, 그리고 비지도 도메인 적응 기법을 도입해 모델을 확장할 계획이다. 결론적으로, 본 논문은 선형·비선형 혼합을 동시에 고려하는 일반화 모델을 딥 오토인코더로 구현함으로써, 비선형 효과가 존재하는 복잡한 고광谱 데이터에서도 정확한 엔드멤버와 풍부도 추정을 가능하게 하였으며, 다양한 실험을 통해 기존 최첨단 방법들을 능가함을 입증하였다.