뇌졸중 영상 판독을 위한 불확실성 인식·중단 가능 설명형 에이전트 AI 프레임워크

본 논문은 급성 허혈성 뇌졸중(AIS) 환자의 영상(CT, CTA, MRI) 분석에 있어, 기존 딥러닝 모델이 제공하는 단일 확정적 출력만으로는 임상 현장의 불확실성과 위험을 충분히 반영하지 못한다는 문제점을 지적한다. 이를 해결하기 위해 저자는 “Explainable Agentic AI Framework”라는 다단계 에이전트 기반 시스템을 설계하였다. 시스템은 크게 네 개의 모듈로 구성된다. 1) **Perception Agent(인식 에이전트)** – 병변을 탐지하고 특징 맵을 추출한다. 기존 3D U‑Net, Transformer‑based encoder‑decoder 구조를 변형해 lesion‑aware attention을 적용함으로써, 병변 부위와 주변 조직을 구분하는 능력을 강화한다. 이 단계에서는 실제 진단 결정을 내리지 않으며, 순수히 이미지에서 의미 있는 표현을 생성한다. 2) **Uncertainty Estimation Agent(불확실성 추정 에이전트)** – 인식 에이전트가 만든 특징 맵을 입력으로 받아, 슬라이스 단위의 epistemic uncertainty를 계산한다. 논문에서는 Monte‑Carlo dropout, 딥 앙상블, 베이지안 신경망 등 여러 방법을 조합해 다중 샘플링을 수행하고, 출력 분산을 정규화된 불확실성 점수로 변환한다. 이 점수는 저해상도, 움직임 아티팩트, 병변 경계 불명확 등 이미지 품질 저하와 높은 상관관계를 보이며, 실제 임상에서 “판독을 미루는” 판단과 일치한다. 3) **Decision Agent(의사결정 에이전트)** – 사전에 정의된 안전 임계값 τ와 불확실성 점수를 비교한다. 점수가 τ를 초과하면 자동으로 “abstain”을 선택하고, 해당 슬라이스를 인간 방사선과에게 전달한다. 반대로 τ 이하이면 기존의 segmentation 혹은 classification 결과를 출력한다. 이 과정은 “Safety‑Aware Decision Control”(RDC)이라고 명명되며, 위험 회피형 설계 철학을 구현한다. 4) **Explainability Module(설명 모듈)** – Grad‑CAM, Integrated Gradients 등 시각적 saliency 기법을 이용해 인식 에이전트가 주목한 영역을 시각화하고, 의사결정 에이전트가 abstain을 선택한 이유를 텍스트 형태로 제공한다. 예를 들어 “Slice‑level uncertainty 0.78 > τ(0.7) → 자동 중단”이라는 설명이 함께 제시되어, 최종 사용자가 AI의 판단 근거를 직관적으로 이해할 수 있다. 논문은 기존 연구들을 표로 정리하며, 2017년부터 2025년까지 발표된 주요 AIS 영상 AI 모델(예: CNN Ensemble, Hybrid ML+CNN, DeepISLES 등)이 주로 정확도 향상에 초점을 맞추고, 불확실성 모델링, 중단 메커니즘, 에이전트 기반 설계가 결여되어 있음을 지적한다. 특히 2025년 mAIstro와 M3 Builder는 에이전트 구조를 도입했지만, 불확실성 기반 중단을 구현하지 못했다는 점을 강조한다. 본 연구는 정량적 성능 평가 대신, 다양한 실제 사례를 통해 프레임워크의 실용성을 검증한다. 사례 1에서는 저해상도 CT에서 병변 경계가 흐릿해 불확실성 점수가 급증하고, 시스템이 자동으로 중단함으로써 전문가에게 재검토를 요청한다. 사례 2에서는 고품질 MRI에서 불확실성 점수가 낮아 정상적으로 병변을 분할하고, saliency map이 병변 부위를 정확히 강조한다. 이러한 사례들은 “불확실성‑구동 중단”이 실제 영상 품질 변동과 강하게 연관됨을 보여준다. 한편, 논문은 몇 가지 제한점을 명시한다. 첫째, 정량적 벤치마크(예: Dice, AUC)가 부재해, 기존 모델과의 직접 비교가 어렵다. 둘째, 불확실성 임계값 τ가 경험적으로 설정되었으며, 환자군·기관별 최적화가 필요하다. 셋째, 현재는 2D 슬라이스 수준의 불확실성만 다루고 있어, 3D 볼륨 전체의 연속성을 고려한 의사결정 로직이 부족하다. 향후 연구 방향으로는 (1) 대규모 멀티센터 AIS 데이터셋을 활용한 정량적 평가, (2) 메타‑러닝 기반 자동 τ 튜닝, (3) 3D 볼륨‑레벨 불확실성 추정 및 연속적인 의사결정, (4) 실제 응급실 워크플로우와의 실시간 통합 테스트 등을 제시한다. 결론적으로, 본 논문은 “불확실성 인식·중단·설명”이라는 세 가지 핵심 설계 원칙을 명시적으로 구현함으로써, 고위험 응급 방사선 진단 분야에서 AI의 안전성과 신뢰성을 크게 향상시킬 수 있는 새로운 패러다임을 제시한다.