에피톰 기반 희소 이미지 표현 및 학습 방법

본 논문은 이미지 처리 분야에서 널리 활용되는 희소 코딩 기법을, 전통적인 ‘플랫’ 사전 대신 에피톰이라는 구조화된 사전으로 대체하는 새로운 접근법을 제시한다. 에피톰은 작은 크기의 이미지이며, 이 이미지 안에 포함된 모든 가능한 패치를 사전 원소로 사용한다. 따라서 사전 원소의 총 개수는 에피톰 크기와 패치 크기에 의해 결정되는 겹치는 패치 수 p=(√M−√m+1)^2 로, 파라미터 수는 에피톰 전체 픽셀 수 M에 불과해 메모리와 학습 비용을 크게 절감한다. 논문은 먼저 기존 희소 코딩의 표준 모델을 소개한다. 입력 패치 행렬 X∈ℝ^{m×n}에 대해 사전 D∈ℝ^{m×p}와 계수 행렬 A∈ℝ^{p×n}을 동시에 학습하는 목적함수는 min_{D∈𝒟, A} (1/n)∑_i (½‖x_i−Dα_i‖_2^2 + λ‖α_i‖_1) 이며, 𝒟는 각 원소의 ℓ_2 노름을 1 이하로 제한한다. 그러나 에피톰 기반 사전에서는 겹치는 패치가 서로 다른 노름을 가질 수 있기 때문에, 저자는 제약을 없애고 대신 가중 ℓ_1 정규화 형태인 min_{D∈Imϕ, A} (1/n)∑_i (½‖x_i−Dα_i‖_2^2 + λ∑_j ‖d_j‖_2 |α_{j,i}|) 을 제안한다. 여기서 ϕ는 에피톰 E∈ℝ^M 에서 모든 겹치는 패치를 추출해 D=ϕ(E) 로 만드는 선형 연산이며, Imϕ는 가능한 사전들의 집합을 의미한다. 학습 알고리즘은 블록 좌표 하강법을 기반으로 한다. 첫 단계에서는 D가 고정된 상태에서 각 샘플에 대한 가중 ℓ_1 최소화 문제를 해결한다. 이를 위해 Γ=diag(‖d_j‖_2) 를 정의하고, D′=DΓ^{-1} 로 변환하면 표준 LASSO 형태가 되므로 LARS 알고리즘을 적용한다. 최적화 후에는 D와 A를 스케일 보정(scaling)하여 수치적 안정성을 확보한다. 두 번째 단계에서는 A가 고정된 상태에서 D를 업데이트한다. 목적함수 f(D)=½‖X−DA‖_F^2 + λ∑_j ‖d_j‖_2‖α_j‖_1 의 그래디언트는 ∇f=−(X−DA)A^T + DΔ 로 계산되며, Δ는 각 원소의 가중치를 포함한다. D는 Imϕ 로 투영해야 하므로, 투영 연산 Π_{Imϕ}=ϕ∘ϕ^* 를 사용한다. ϕ^*는 D의 각 픽셀을 해당 에피톰 위치에 평균하는 역연산이며, 이 과정은 닫힌 형태로 구현 가능하다. 수렴 속도를 높이기 위해 가속화된 그래디언트 기법인 FISTA를 적용했으며, 다중 스케일 학습 전략을 도입해 작은 에피톰을 먼저 학습하고 점진적으로 확대함으로써 초기값에 대한 민감성을 감소시켰다. 또한 단일 에피톰 대신 N개의 에피톰을 동시에 학습하는 다중 에피톰 확장을 제안했는데, 이는 사전 원소에 대한 이동‑불변성을 자연스럽게 제공한다. 실험에서는 표준 이미지 잡음 제거 데이터셋을 사용해 단일 에피톰, 다중 에피톰, 그리고 기존 KSVD 기반 플랫 사전과 비교하였다. 결과는 다음과 같다. (1) 단일 에피톰 사전은 파라미터 수가 현저히 적음에도 불구하고 PSNR 면에서 KSVD와 거의 동등하거나 약간 우수하였다. (2) 다중 에피톰 사전은 특히 텍스처가 복잡하거나 구조적 변형이 큰 이미지에서 PSNR 향상을 보였으며, 이는 이동‑불변 사전이 다양한 위치에 나타나는 패턴을 효과적으로 포착하기 때문이다. (3) 학습 시간은 에피톰 기반이 플랫 사전보다 빠른 편이었으며, 메모리 사용량도 크게 감소하였다. 결론적으로, 에피톰을 사전 파라미터로 사용하는 접근법은 (i) 파라미터 효율성, (ii) 이동‑불변성, (iii) 높은 재구성 품질이라는 세 가지 장점을 동시에 제공한다. 저자는 이 프레임워크가 텍스처 합성, 비디오 복원, 그리고 더 일반적인 시공간 블록 학습 등 다양한 확장 가능성을 가지고 있음을 강조한다. 향후 연구에서는 비선형 ϕ 연산을 포함한 복합 구조 사전, 그리고 딥러닝과의 하이브리드 모델링이 제안될 수 있다.