선형 반복 언폴딩 방법: 무가정 비편향 추정과 오류 전파

실험 물리에서 측정된 데이터는 검출기 응답이나 물리적 과정에 의해 스미어링(smoothing)되어 원래의 확률밀도함수(p.d.f.)와는 다른 형태로 관측된다. 이를 원래 분포로 복원하는 과정을 “언폴딩(unfolding)”이라고 부르며, 선형 적분 방정식 g(y)=∫ρ(y|x)f(x)dx 로 수학적으로 모델링된다. 여기서 g는 측정된(스미어된) p.d.f., f는 복원하고자 하는 원본 p.d.f., ρ는 응답함수이다. 이 문제는 Aρ라는 접힘 연산자를 정의하면 g=Aρ f 로 표현되며, Aρ⁻¹가 일반적으로 연속적이지 않아 역문제가 ill‑posed(ill‑posed)하게 된다. 기존 방법은 (i) 파라메트릭 모델링, (ii) 빈‑별 적합, (iii) 비선형 반복 베이즈 방식 등으로 정규화(regulation)를 시도했지만, 각각 모델 의존성, 과도한 진동, 수렴·오차 전파에 대한 이론적 보장이 부족했다. 본 논문은 이러한 한계를 극복하기 위해 “선형 반복 언폴딩” 알고리즘을 제안한다. 핵심은 다음과 같다. 먼저 응답함수 ρ에 대해 정규화 상수 Kρ=∬ρ(y|z)ρ(y|x)dy dz 를 정의하고, Kρ가 유한하면 알고리즘이 적용 가능하다. 초기 추정은 f₀=Kρ⁻¹ Aρᵀ g 로 설정한다. 이후 반복식 fₙ₊₁ = fₙ + (f₀ – Kρ⁻¹ Aρᵀ Aρ fₙ) 을 적용한다. 여기서 Aρᵀ는 전치 접힘 연산자로, 연속적인 경우는 적분 형태, 이산화된 경우는 행렬 전치와 동일하다. 이 반복은 Neumann 급수와 Landweber iteration의 변형이며, 함수해석학적 증명을 통해 다음 정리를 얻는다. **정리 1 (수렴성)** Kρ가 유한하면, fₙ은 모든 콤팩트 집합 S⊂X에 대해 평균값(또는 L² 노름)에서 limₙ→∞ fₙ = f – P_Ker(Aρ)f 로 수렴한다. 여기서 P_Ker(Aρ)는 Aρ의 핵에 대한 직교 사영이다. 즉, Aρ가 가역이면 완전 복원, 그렇지 않으면 핵에 속하는 성분을 제외한 최대 정보가 복원된다. 수렴은 “bin‑wise” 형태로도 해석 가능하므로 히스토그램에서도 적용 가능하다. **정리 2 (편향오차)** N번째 반복 해 fₙ과 최적 해 사이의 평균 차이는 ‖f – P_Ker(Aρ)f – fₙ‖₁ ≤ (1+ε)/√Vol(S)·‖f_M – fₙ‖₂ (M≫N) 와 같이 상한을 갖는다. 따라서 반복 차수가 증가하면 편향은 1/√볼륨 비율로 감소한다. 이는 히스토그램 빈 크기에 따라 편향이 어떻게 변하는지를 정량화한다. **정리 3 (통계오차 전파)** 측정된 g는 히스토그램 형태라면 공분산 행렬 C=EEᵀ 로 표현 가능하다. E를 이용해 동일한 반복을 수행하면 E₀ = Kρ⁻¹ Aρᵀ E, Eₙ₊₁ = Eₙ + (E₀ – Kρ⁻¹ Aρᵀ Aρ Eₙ) 이며, 최종 공분산은 Cₙ = EₙEₙᵀ 로 얻는다. 선형성 덕분에 통계오차가 정확히 전파되며, 각 반복 단계마다 오차가 어떻게 축적·감소하는지 추적할 수 있다. **체계오차**는 ρ 자체의 불확실성을 δρ로 모델링해 Aρ → Aρ+δAρ 로 변형했을 때, 동일한 선형 연산을 통해 전파된다. 따라서 전체 오차는 TotalError(N) = Bias(N)² + Stat(N)² + Syst(N)² 와 같이 합성 가능하며, N에 대한 함수로서 최소화되는 N* 를 “최적 정지 차수”로 정의한다. 이는 과도한 반복에 의한 과적합을 방지하고, 충분한 복원 정확도를 확보한다. 알고리즘은 히스토그램 외에도 커널 밀도 추정, 연속형 추정 등 다양한 형태의 p.d.f.에 적용 가능하다. 특히 히스토그램의 빈 재배열이나 측정 영역 절단도 ρ에 포함시켜 동시에 복원할 수 있다(그림 3 참고). 구현은 C 라이브러리 형태로 제공되며, 자동 통계오차 전파와 예제 코드가 포함돼 실무에서 바로 사용할 수 있다. 라이브러리는 함수 포인터 형태로 Aρ와 Aρᵀ를 사용자 정의할 수 있어, 칼로리미터 응답, 트랙 재구성 모멘텀 응답 등 복잡한 물리적 응답에도 적용 가능하다. 전체적으로 이 논문은 (1) 수학적으로 엄밀한 수렴 증명, (2) 편향·통계·체계오차에 대한 명시적 전파식, (3) 단일 정규화 파라미터(반복 차수)만으로 정규화가 가능한 간단한 구조, (4) 실용적인 C 구현이라는 네 가지 강점을 제공한다. 기존 비선형 베이즈 반복이 제공하는 양성 보존 및 정규화는 유지하면서도, 선형성 덕분에 오류 전파와 최적 정지 기준을 명확히 제시한다는 점에서, 실험 물리 데이터 분석에 있어 새로운 표준이 될 가능성이 있다.