이상 탐지를 위한 반프로파일 서포트 벡터 머신

본 논문은 기존 이상 탐지 연구가 주로 정상(또는 정상에 가까운) 데이터와 완전히 다른 이상 데이터를 구분하는 데 초점을 맞춘 반면, 실제 응용에서는 여러 이질적인 이상 클래스들을 동시에 구분해야 하는 상황이 빈번히 발생한다는 점을 지적한다. 이를 ‘이상 분류(Anomaly Classification)’라 명명하고, 정상 클래스 Z와 두 개 이상의 이상 클래스(A⁻, A⁺)가 존재하는 설정을 수학적으로 정의한다. 핵심 가정은 정상 클래스가 안정적이며, 각 이상 클래스는 정상에 비해 공분산이 크게 다르고, 특히 고유값이 더 큰 이질성을 보인다는 것이다. 이러한 가정은 DNA 메틸레이션 데이터에서 정상 조직, 양성 병변, 악성 종양이 순차적으로 변동성을 증가시키는 현상으로 실증된다. 제안된 알고리즘인 반프로파일 서포트 벡터 머신(apSVM)은 기존 SVM의 핵심 아이디어인 ‘커널을 통한 고차원 특징 공간에서의 최대 마진 분리’를 유지하면서, 기저함수 집합을 정상 샘플만으로 제한한다. 구체적으로, f(x)=d+∑_{i=1}^m c_i k(z_i, x) 형태의 함수 공간을 정의하고, 힌지 손실과 RKHS 노름을 결합한 정규화 위험 함수를 최소화한다. 이때 최적화 문제는 두 개의 커널 매트릭스 K_n(정상-정상)와 K_s(이상-정상)를 포함하는 이차식으로 전개된다. 라그랑주 승수를 도입해 듀얼 문제를 유도하면, 표준 SVM 듀얼과 동일한 형태이지만 커널 매트릭스가 ˜K = K_s K_n^{-1} K_s^T 로 대체된다. 즉, 정상 샘플이 정의하는 서브스페이스에 투영된 이상 샘플 간의 ‘간접 커널’이 사용되는 것이다. 이 간접 커널의 의미를 정리하면, 정상 샘플들의 대표자(representer)들이 생성하는 부분공간 P_Z에 대해, 각 이상 샘플의 대표자를 최적 투영(P_Z k(x,·))한 뒤, 그 투영된 두 대표자 사이의 내적을 계산한다는 뜻이다. Proposition 1은 이를 수식적으로 증명하고, 투영 후 고유값이 감소함을 보인다. 따라서, 이 서브스페이스는 원래 이상 샘플이 차지하던 고차원 변동성을 억제하고, 보다 컴팩트한 형태로 변환한다. 이는 Vapnik‑Chapelle의 서포트 벡터 스팬 이론에 따라 모델의 일반화 경계가 더 견고해짐을 의미한다. 실험은 두 부분으로 나뉜다. 첫 번째는 인공 데이터 시뮬레이션으로, 정규분포 N(0,σ²)에서 σ_Z = 1, σ_{A⁻}=2, σ_{A⁺}=4 로 설정해 정상과 두 이질적인 이상 클래스를 생성하였다. R의 kernlab과 svmpath를 이용해 표준 SVM과 apSVM을 동일한 RBF 커널 파라미터로 학습시켰으며, 비용 파라미터를 전체 정규화 경로에서 최적화하였다. 결과는 apSVM이 정확도에서 표준 SVM을 앞섰을 뿐 아니라, 서포트 벡터 비율이 현저히 낮아 모델의 안정성이 향상됨을 보여준다. 두 번째는 실제 암 유전체 데이터에 대한 적용이다. DNA 메틸레이션 측정값은 정상 조직에서 낮은 변동성을 보이며, 양성 병변(adenoma)에서는 중간, 악성 종양에서는 높은 변동성을 보인다. 이러한 ‘하이퍼 변동성’ 패턴은 여러 암 유형에 걸쳐 일관되게 나타난다. 연구진은 정상 샘플을 기반으로 apSVM을 학습시킨 뒤, 양성 병변과 악성 종양을 구분하는 이진 분류를 수행했다. 실험 결과, apSVM은 표준 SVM 대비 높은 정확도와 더 적은 서포트 벡터 수를 기록했으며, 교차 검증에서도 일관된 성능을 유지했다. 논문은 마지막으로 apSVM의 장점을 정리한다. (1) 정상 샘플만을 사용해 커널을 정의하므로, 이상 샘플의 잡음이나 불균형에 덜 민감하다. (2) 기존 SVM 솔버와 동일한 형태의 듀얼 문제를 갖기 때문에 구현이 간단하고, 기존 인프라를 그대로 활용할 수 있다. (3) 이질성 가정 하에서 모델의 일반화 경계가 더 견고해져, 실제 의료·생물학 데이터와 같이 변동성이 큰 상황에서도 안정적인 분류가 가능하다. 따라서, 정상 기준이 명확히 정의되고, 이상이 다중 이질적인 특성을 가질 때 apSVM은 강력하고 실용적인 대안이 된다.