그래프 기반 널스페이스 부드러움 표현으로 역문제 해결

**1. 서론** 이미지 복원·초해상도·압축센싱·디모자이싱 등은 측정 행렬 H가 저차원(m ≤ n)인 경우가 대부분이며, 이때 문제는 무한히 많은 해를 갖는 ill‑posed 문제로 귀결된다. 전통적인 정규화는 데이터 적합도 ‖Hx−y‖²와 이미지 도메인에 대한 사전(g(x))을 결합하지만, H의 널스페이스(Null(H))에 대한 제약이 없기 때문에 복원 과정에서 눈에 보이지 않는 성분이 임의로 변형될 위험이 있다. 최근 Null‑Space Networks(NSN)와 Deep Decomposition 등은 널스페이스 전체를 학습하려 했으나, 자연 이미지가 차지하는 널스페이스는 저차원·구조화된 부분에 불과하다는 점을 간과한다. **2. 관련 연구** PnP와 RED는 학습된 디노이저를 프록시 정규화로 활용해 이미지 매니폴드에 대한 암묵적 제약을 제공하지만, 널스페이스를 직접 다루지는 않는다. NPN은 널스페이스 내 저차원 투영 행렬 S를 학습해 예측 가능한 성분을 제한했지만, S가 임의의 기저일 경우 효율성이 떨어진다. 그래프 기반 정규화는 이미지 자체에 평활성을 부여하는데 성공했으나, 널스페이스에 적용된 사례는 없었다. **3. GSNR 이론 및 설계** - **그래프 라플라시안 정의**: 4‑NN 또는 8‑NN 격자에서 가중치 W를 정의하고, L=D−W를 구성한다. - **널‑제한 라플라시안 T**: T = Pₙ L Pₙ (Pₙ = I−H†H) 로, 널스페이스에만 작용하는 스펙트럴 연산자를 만든다. - **스펙트럴 분해**: T = V diag(μ₁,…,μ_n) Vᵀ, 여기서 V는 널스페이스 내 정규 직교 고유벡터이며 μ_i는 그래프 주파수(작을수록 부드러움). - **투영 행렬 S**: S = Vᵀ_{1:p} 로, 가장 낮은 p개의 고주파를 선택한다. 이렇게 하면 Sx =