통합 설명 프레임워크와 복합성 이론: 전역·국부 해석의 새로운 경계

본 논문은 머신러닝 모델의 예측을 설명하기 위해 널리 사용되는 두 가지 기본 개념, 즉 **충분 이유(sufficient reasons)**와 **대조 이유(contrastive reasons)**를 하나의 통합 프레임워크로 묶는다. 기존 연구들은 이 두 개념을 비확률적·확률적, 국부·전역이라는 네 가지 경우로 나누어 각각의 계산 복잡도를 따로 분석했지만, 이 논문은 **통합 확률적 가치 함수 V(S)** 를 정의함으로써 모든 경우를 하나의 최소화 문제로 전환한다. V(S)는 선택된 특징 집합 S 가 고정(충분)되거나 변형(대조)될 때 목표 클래스가 유지되거나 바뀔 확률을 측정한다. ### 1. 가치 함수의 핵심 속성 논문은 V(S)의 **단조성(monotonicity)**, **서브모듈러(submodularity)**, **슈퍼모듈러(supermodularity)** 라는 세 가지 조합 최적화 속성이 복잡도에 결정적인 영향을 미친다고 주장한다. - **단조성**: 집합 S 에 원소를 추가하면 V(S)값이 비감소(또는 비증가)한다는 성질. - **서브모듈러**: 두 집합 A, B에 대해 V(A)+V(B) ≥ V(A∪B)+V(A∩B) — ‘감소하는 한계’ 효과. - **슈퍼모듈러**: 위 부등식의 반대 형태, ‘증가하는 시너지’ 효과. ### 2. 국부 vs 전역 가치 함수 - **국부 가치 함수**는 특정 입력 x 에 대해 정의된다. 논문은 이 함수가 **단조성도, 서브모듈러·슈퍼모듈러도 전혀 갖지 않는다**고 증명한다. 즉, 특징을 추가하거나 제거해도 충분·대조 확률이 비예측적으로 변한다. 이로 인해 최소 크기의 충분·대조 이유를 찾는 문제는 **NP‑hard**이며, 특히 신경망에서는 **Σ₂^P‑hard** 수준까지 복잡도가 상승한다. - **전역 가치 함수**는 전체 입력 분포 D 에 대해 기대값을 취한다. 여기서는 놀라운 구조적 차이가 나타난다. 전역 충분 이유에 대한 V(S)는 **단조 비감소 + 슈퍼모듈러**이며, 전역 대조 이유에 대한 V(S)는 **단조 비감소 + 서브모듈러**이다. 이러한 속성은 전역 설명 문제를 **다항시간 최적화**와 **상수‑팩터 근사**가 가능한 영역으로 끌어올린다. ### 3. 모델별 복잡도 결과 논문은 세 가지 대표 모델에 대해 구체적인 정리와 정리를 제공한다. 1. **결정트리** - 국부 충분·대조 이유 최소화: NP‑hard (특히 최소 충분 이유는 기존 연구와 일치). - 전역 충분 이유: 가치 함수가 슈퍼모듈러이므로 **그리디 알고리즘**이 최적해에 근접하며, 정확히는 **다항시간**에 해결 가능. - 전역 대조 이유: 서브모듈러 특성으로 **다항시간 근사**(1‑1/e) 보장이 가능. 2. **신경망 (ReLU 기반)** - 국부 경우: 기존 결과와 일치하게 **Σ₂^P‑hard**. - 전역 경우: 가치 함수가 단조·슈퍼/서브모듈러이므로 **근사 알고리즘**을 적용할 수 있다. 특히, **라그랑주 이완**과 **그리디 선택**을 결합해 상수‑팩터(예: 2‑근사) 보장을 얻는다. 3. **트리 앙상블 (랜덤 포레스트, XGBoost)** - 국부 설명은 결정트리와 유사하게 **NP‑hard**. - 전역 설명은 앙상블 평균을 통해 가치 함수가 여전히 단조·슈퍼/서브모듈러를 유지하므로, **다항시간**에 근사 가능한 알고리즘을 설계한다. ### 4. 분포 가정과 실제 적용 논문은 **일반 분포**, **독립 분포**, **경험적 분포** 세 가지 경우를 구분한다. - **일반 분포**: 가장 강력한 하드니스 결과가 적용되며, 가치 함수의 구조적 속성만을 이용한다. - **독립 분포**: 일부 증명에서 확률 곱셈이 단순해져 서브/슈퍼모듈러 검증이 쉬워진다. - **경험적 분포**: 실제 XAI 파이프라인에서 가장 많이 사용되는 가정으로, 샘플 기반 추정이 가능해 전역 설명을 **실시간**에 가까운 속도로 계산할 수 있다. ### 5. 근사 불가능성 및 상수‑팩터 근사 국부 설정에서는 단조성 부재와 서브/슈퍼모듈러 부재로 인해 **어떠한 유한 상수 α 에 대해서도 α‑근사 알고리즘이 존재하지 않는다**는 강력한 증명을 제공한다. 이는 기존 연구에서 “근사 가능성”을 전제한 많은 알고리즘이 전역에만 적용될 수 있음을 의미한다. 전역 설정에서는 서브모듈러/슈퍼모듈러 특성을 활용해 **그리디 기반** 혹은 **라그랑주 이완** 기법을 적용, **(1‑1/e)** 혹은 **2‑근사**와 같은 상수‑팩터 근사 비율을 보장한다. 논문은 이러한 이론적 결과를 실제 데이터셋(예: MNIST, UCI)과 다양한 모델에 적용해 실험적으로도 근사 품질과 실행 시간을 검증한다. ### 6. 의의와 향후 연구 방향 - **통합 프레임워크**를 통해 충분·대조 이유, 비확률·확률, 국부·전역을 하나의 최적화 문제로 묶음으로써 복잡도 분석을 일관되게 수행할 수 있게 되었다. - **전역 설명**이 구조적으로 더 쉬운 문제임을 밝힘으로써, 실제 XAI 시스템에서 전역 해석을 우선 고려하도록 설계 지침을 제공한다. - **조합 최적화 이론**(특히 서브/슈퍼모듈러 최적화)과 머신러닝 설명 가능성의 교차점을 제시, 향후 다른 설명 유형(예: SHAP, LIME)에도 동일한 분석을 확장할 가능성을 열었다. 결론적으로, 이 논문은 설명 가능성 연구에 새로운 이론적 토대를 제공하고, 전역·국부 차이를 명확히 구분함으로써 실무자와 연구자 모두에게 실용적인 알고리즘 설계 방향을 제시한다.