포아송 잡음 고려한 희소 표현 기반 빠른 근접 이터레이션 디컨볼루션

본 논문은 형광 공초점 현미경 이미지에서 흔히 발생하는 두 가지 손상, 즉 광학 시스템에 의한 블러와 포아송 잡음(샷 노이즈)을 동시에 고려한 디컨볼루션 방법을 제안한다. 기존의 Richardson‑Lucy(RL) 알고리즘은 포아송 잡음에 적합하지만 반복이 진행될수록 잡음이 증폭되는 단점이 있다. 이를 보완하기 위해 정규화 기법으로 총변동(TV)이나 다중해상도 파동 변환을 적용한 변형들이 제안되었지만, 대부분 가우시안 잡음 가정에 기반하거나 비선형성을 충분히 반영하지 못한다. 저자들은 먼저 관측 모델 y_i∼Poisson((h⊛x)_i)를 안스콤 변환 z_i=2√(y_i+3/8) 로 변환한다. 안스콤 변환은 포아송 잡음의 분산을 일정하게 만들어 주지만, 변환 후 z는 여전히 원본 이미지와 비선형 관계(z≈2√(h⊛x)+ε) 를 가진다. 따라서 이 비선형성을 명시적으로 포함한 데이터 적합 항 F(·)을 정의하고, 이를 기반으로 전체 비용 함수 J(α)=F(HΦα)+λ∑ψ(α_i)+ι_C(Φα)를 구성한다. 여기서 Φ는 파동·곡선 등 과잉완전 사전이며, ψ는 ℓ₁ 정규화와 같은 희소성 촉진 함수, ι_C는 양성 제약을 나타낸다. 최적화 문제는 f₁(α)=F(HΦα)와 f₂(α)=λ∑ψ(α_i)+ι_C(Φα) 로 분리할 수 있다. f₁은 부드럽고 Lipschitz 연속인 그래디언트를 가지며, f₂는 비부드럽지만 친근한 근접 연산자를 갖는다. 이를 이용해 근접 후방‑전방(split) 알고리즘을 적용한다. 구체적인 업데이트는 α^{t+1}=prox_{μ_t f₂}(α^t−μ_t∇f₁(α^t))이며, prox_{μ_t f₂}는 소프트-쓰레시홀딩(ℓ₁)과 양성 투영을 결합한 형태로 구현된다. 수렴 조건 μ_t∈(0,3/(2‖H‖²·‖z‖_∞)) 를 만족하면 전역 약수렴을 보장한다. 실험에서는 신경세포와 혈관 내피세포의 시뮬레이션 데이터, 그리고 실제 공초점 이미지에 대해 제안법을 평가하였다. 비교 대상은 RL‑TV, RL‑MRS(다중해상도 파동 정규화), NaiveGauss(가우시안 가정), AnsGauss(안스콤 변환 후 가우시안 가정)이다. 저강도(최대 강도 30) 상황에서 제안법은 ℓ₁‑오차와 MSE 모두에서 RL‑MRS와 동등하거나 더 낮은 값을 기록했으며, 시각적으로도 배경 잡음이 최소화되고 미세 구조(예: 신경 가시돌기)가 잘 복원되었다. 중·고강도에서는 RL‑TV가 가장 높은 PSNR을 보이지만, 제안법 역시 경쟁력 있는 결과를 제공한다. 연산 시간 측면에서는 MATLAB 구현 기준 2.7 초(제안법)로, C++ 기반 RL‑MRS(15 초)보다 현저히 빠르며, NaiveGauss와 AnsGauss는 각각 1.7 초로 가장 빠르지만 복원 품질은 낮다. 논문의 주요 기여는 (1) 포아송 잡음의 비선형성을 안스콤 변환 후에도 정확히 모델링한 데이터 적합 항, (2) 희소성 정규화와 양성 제약을 결합한 근접 연산을 이용한 빠른 수렴 알고리즘, (3) 다양한 사전(파동·곡선) 적용을 통한 구조적 적합성 증명이다. 한계점으로는 정규화 파라미터 λ의 경험적 선택과 사전 설계가 결과에 큰 영향을 미친다는 점이며, 향후 자동 λ 추정 및 학습 기반 사전 개발이 필요하다.