딥러닝 기반 독성 예측, Tox21 챌린지 우승 비결

본 논문은 미국 NIH, EPA, FDA가 공동으로 주관한 Tox21 데이터 챌린지에서 딥러닝을 활용한 독성 예측 모델이 어떻게 기존 방법들을 뛰어넘었는지를 상세히 기술한다. 먼저 독성 예측 문제를 다중 라벨(12개 서브태스크) 이진 분류 문제로 정의하고, 각 화합물을 30 000여 개의 고차원 이진 피처(ECFP4 지문)와 5 000여 개의 전통적인 1D·2D·3D 화학 서술자를 결합한 입력 벡터로 표현한다. 라벨 결손이 빈번한 멀티태스크 환경을 고려해 손실 함수에 마스크 변수 m_ti를 도입, 유효 라벨만을 사용해 교차 엔트로피를 계산한다. 네트워크는 1~3개의 은닉층(각 층당 1 024~16 356개의 ReLU 유닛)과 각 태스크마다 시그모이드 출력 유닛을 배치한 구조이며, 드롭아웃(입력 20 %, 은닉 50 %)과 L2 정규화(10⁻⁶~10⁻⁴)로 과적합을 방지하고, 교차 검증 기반 조기 종료로 최적 학습 시점을 결정한다. 하이퍼파라미터 탐색은 피처 정규화 방식(표준편차, tanh, sqrt), 피처 유형 조합, 희소도 임계값, 은닉 유닛 수, 층 수, 학습률, 정규화 파라미터 등을 포괄적으로 수행하였다. 구현 측면에서는 12 GB GPU 메모리와 미니배치 512를 이용해 SGD를 수행했으며, 대용량 희소 입력을 효율적으로 처리하기 위해 희소→밀집 변환 방식을 채택하였다. 실험 결과, 제안된 멀티태스크 DNN은 모든 12개 서브태스크에서 ROC‑AUC 기준으로 최고 성적을 기록했으며, 특히 라벨이 적은 태스크에서 다른 태스크와의 파라미터 공유가 큰 이점을 제공했다. 모델 해석을 위해 은닉층 가중치를 시각화한 결과, 특정 뉴런이 알려진 독성 토키포어(예: 친수성 영역, 전자 수용체·공여체, 고리 구조)와 높은 상관을 보이며, 이는 딥러닝이 화학적 의미를 자동으로 추출한다는 중요한 증거가 된다. 최종적으로 이 접근법은 Tox21 챌린지의 두 패널(NR, SR)과 전체 그랜드 챌린지에서 모두 1위를 차지했으며, 독성 예측 분야에서 딥러닝 기반 멀티태스크 학습이 새로운 표준이 될 가능성을 제시한다.