중요한 LULU 연산자의 출력 분포 분석

본 논문은 비선형 신호 처리에서 널리 사용되는 LULU 연산자와 그 변형인 침식‑팽창 연쇄(erosion‑dilation cascade)의 출력 분포 전이 함수 φ_S 를 두 가지 방법으로 체계적으로 계산하고, 이를 통해 필터의 강건성 및 변동 보존 특성을 정량화한다. 첫 번째 섹션에서는 LULU 이론의 기본 개념을 소개한다. 기본 연산자 L_n과 U_n은 각각 최소·최대 연산을 n번 적용한 형태로 정의되며, 이들은 ‘separator’라는 개념을 만족한다. separator는 수평·수직 이동 불변성, 스케일 불변성, 멱등성, 공동멱등성이라는 다섯 가지 공리를 포함한다. 이러한 공리는 연산자가 신호와 잡음을 명확히 구분하도록 보장한다. 특히 L_n은 피크를, U_n은 피트를 제거하고, L_nU_n 혹은 U_nL_n은 n‑단조 시퀀스로 변환한다. 두 번째 섹션에서는 ‘robustness(강건성)’라는 새로운 개념을 도입한다. 하위 강건성(lower robustness)과 상위 강건성(upper robustness)을 각각 정의하고, 이들이 출력 분포 전이 함수 φ_S 와 어떻게 연결되는지를 이론적으로 증명한다. 핵심 정리는 φ_S(p)=O(p^r) (p→0)이면 하위 강건성 차수가 r, φ_S(1−p)−1=O(p^r) (p→0)이면 상위 강건성 차수가 r라는 것이다. 이는 φ_S 가 다항식일 경우 영점(order of zero) 분석만으로 강건성 차수를 바로 판정할 수 있게 해준다. 세 번째 섹션에서는 φ_S 를 구하는 두 가지 절차를 제시한다. 첫 번째는 연산자를 부정합식(DNF)으로 전개하고, 각 항에 대한 확률을 조합해 φ_S 를 도출하는 방법이다. 이 과정에서 순위 선택 확률(rank selection probabilities)도 동시에 얻어지므로, 기존에 별도로 계산하던 값을 한 번에 제공한다. 두 번째는 포함‑배제 원리를 기반으로 한 ‘expansion calculus’를 이용하는 방법이다. 침식‑팽창 연쇄는 각 단계에서 최소·최대 연산을 적용하므로, 사건들의 교집합·합집합을 포함‑배제 식으로 전개하면 φ_S 를 명시적 다항식 형태로 얻을 수 있다. 논문은 특히 L_n, U_n, 그리고 그들의 조합인 L_nU_n, U_nL_n, 그리고 교대로 적용되는 C_n, F_n 등에 대해 구체적인 식을 제시한다. 다항식 형태의 φ_S 를 이용해 강건성을 평가하면, L_n은 상위 강건성 차수 n+1, U_n은 하위 강건성 차수 n+1을 갖는다. 중앙값 필터 M_n은 대칭성 때문에 양쪽 모두 차수 n+1의 강건성을 가진다. 또한 연산자 간의 부분 순서 A ≤ B (모든 입력에 대해 A(x) ≤ B(x))가 성립하면 φ_B ≤ φ_A 가 되므로, 강건성도 단조적으로 전파된다. 예를 들어 U_nL_n ≤ M_n ≤ L_nU_n 이므로, U_nL_n은 M_n의 상위 강건성을, L_nU_n은 M_n의 하위 강건성을 물려받는다. 그러나 독립성 가정이 깨지는 경우(예: L_n 적용 후 시퀀스는 독립이 아니므로 φ_{U_nL_n} ≠ φ_{U_n}∘φ_{L_n}) 합성 연산자의 강건성 차수가 단순히 개별 차수의 최소값이 되는 것이 아니라는 점을 강조한다. 이는 φ_S 가 독립성 전제 하에만 정확히 적용될 수 있음을 의미한다. 마지막으로 포함‑배제 대신 ‘제외 원리(principle of exclusion)’를 제안한다. 이 원리는 복잡한 교집합 계산을 회피하면서도 침식‑팽창 연쇄 전반에 적용 가능하도록 설계되었다. 특히 LULU 연산자 외의 일반적인 침식‑팽창 연쇄에도 유용하게 쓰일 수 있다. 결론적으로, 논문은 LULU 연산자와 그 변형들의 출력 분포 전이 함수를 정확히 계산하는 두 가지 방법을 제공하고, 이를 통해 필터의 강건성, 변동 보존, 그리고 신호‑잡음 분리 성능을 정량적으로 평가할 수 있는 이론적·실용적 도구를 제시한다.