GradCFA 다중 클래스 신경망을 위한 하이브리드 반사실·특징 기여 설명 기법

본 논문은 Explainable AI(XAI)의 두 주요 패러다임인 반사실 설명(CFX)과 특징 기여(FA)를 통합한 새로운 프레임워크 GradCFA를 제안한다. 서론에서는 의료·금융·법률 등 고위험 분야에서 AI 투명성의 필요성을 강조하고, 기존 CFX가 이진 분류에 집중하며 현실성·다양성·희소성 중 일부만을 최적화한다는 문제점을 지적한다. 또한 FA는 모델 전반에 대한 전반적 해석을 제공하지만, 구체적인 행동 지침을 제시하기 어렵다는 한계가 있다. 이러한 격차를 메우기 위해 GradCFA는 두 기법을 결합해 로컬 해석을 강화한다. 관련 연구 파트에서는 Wachter et al.의 초기 CFX, DiCE의 다양성 강화, DECE·CARE 등 다양한 최신 방법들을 리뷰하고, LIME·SHAP·LRP·Grad‑CAM 등 FA 기법을 비교한다. 기존 방법들의 장단점을 정리한 뒤, 다중 클래스 CFX가 아직 충분히 탐구되지 않았음을 강조한다. 방법론 섹션은 GradCFA의 핵심 구성 요소를 상세히 설명한다. 1) **유효성(Validity)**: 목표 클래스 y′에 대한 정확한 분류를 보장하기 위해 힌지 손실 또는 이진 교차 엔트로피 손실을 선택적으로 적용한다. 2) **근접성(Proximity)**: 원본 인스턴스와 반사실 간 평균 절대 차이를 각 특징의 MAD로 정규화해 L_prox를 정의한다. 3) **희소성(Sparsity)**: 변동이 ε 이상인 특징을 1로, 그 외를 0으로 이진화해 평균 변동 수를 L_spars로 측정한다. 4) **현실성(Plausibility)**: k‑최근접 이웃 거리의 평균을 최소·최대 거리로 정규화한 L_plaus를 사용한다. 사용자는 변동 가능 특징, 허용 범위, 변화 방향 등을 제약 조건으로 지정할 수 있다. 5) **다양성(Diversity)**: 모든 반사실 쌍의 거리 행렬에 DPP를 적용해 L_div를 계산하고, 손실 함수에서는 1‑L_div 형태로 역전시켜 최소화한다. 6) **범주형 정규화(L_cat)**: 원‑핫 인코딩된 범주형 특징이 합계 1을 유지하도록 제곱 오차를 추가한다. 전체 손실 함수는 위 손실들의 가중합으로 구성되며, 각 특성 손실이 사전 정의된 임계값을 초과하면 γ 배율의 페널티를 부여한다. 최적화는 Adam 옵티마이저를 사용해 미분 가능한 그래디언트 기반으로 진행되며, 반사실 생성 과정 중 실시간으로 특징 기여 점수(gradient 기반)를 추출한다. 실험에서는 UCI의 Adult, Breast Cancer, Credit 데이터셋과 실제 의료·금융 사례를 대상으로 GradCFA와 기존 CFX 방법(Wachter, DiCE, CARE) 및 FA 방법(SHAP)을 비교한다. 평가 지표는 유효성, 근접성(L2 거리), 희소성(변경 특징 수), 현실성(데이터 분포와의 거리), 다양성(DPP 점수)이다. 결과는 GradCFA가 모든 지표에서 기존 방법을 능가함을 보여준다. 특히 다중 클래스 상황에서 목표 클래스 전환 성공률이 99.4%에 달했으며, 평균 근접성 거리는 0.12로 가장 낮았다. 희소성 측면에서는 평균 2.3개의 특징만 변경했으며, 현실성 점수는 0.87(최고)로 나타났다. 다양성 역시 DPP 점수가 0.73으로 기존 DiCE(0.58)보다 크게 향상되었다. FA 측면에서는 SHAP 대비 동일한 연산 시간 내에 더 높은 로컬 특징 기여 정확도를 기록했다. 논의에서는 GradCFA가 제공하는 통합 해석이 사용자에게 행동 가능한 인사이트를 제공함을 강조한다. 또한, λ 파라미터와 임계값 설정이 결과에 큰 영향을 미치므로 자동 튜닝 기법이 필요함을 언급한다. 고차원 이미지 데이터에 대한 적용은 아직 제한적이며, 향후 CNN·Vision Transformer와의 연계 연구가 제안된다. 결론에서는 GradCFA가 다중 클래스 신경망에 대한 실용적이고 신뢰성 높은 로컬 설명을 제공함을 재확인하고, 향후 연구 방향으로 자동 파라미터 최적화, 대규모 이미지·시계열 데이터 적용, 사용자 인터페이스 설계 등을 제시한다.