데이터 위상 기반 모듈형 신경분류기 설계

1. 서론 패턴 인식 분야에서 지도학습 기반 분류기는 신경망(특히 다층 퍼셉트론, MLP)과 통계적 방법이 주류를 이루지만, 복잡한 문제에 대해 최적의 네트워크 구조를 찾는 과정은 여전히 시행착오가 많고 설계 비용이 크다. 또한 MLP는 개방형 분리면을 형성해 거부(rejection) 기능이 약하고, ‘moving target’ 문제로 인해 학습 효율이 떨어진다. 이러한 한계를 극복하고자 다전문가(decision‑expert) 시스템이 제안되었지만, 전문가 수와 역할 정의가 사전에 필요하거나, 전문가 간 상보성 확보가 어려운 경우가 많다. 2. 분류 문제의 분산화 논문은 분류 문제를 여러 개의 단순 서브‑태스크로 분할함으로써 설계·학습 복잡도를 낮추고, 각 서브‑태스크에 특화된 전문가(MLP)를 배치한다. 이렇게 하면 (a) 각 전문가가 비교적 선형에 가까운 경계만 학습하면 되므로 일반화가 향상되고, (b) 새로운 클래스나 데이터가 추가될 때 전체 시스템을 재구축할 필요 없이 해당 전문가만 재학습하면 된다. 전문가 간 결합은 단순 투표가 아니라, 각 MLP가 자신이 담당하지 않는 입력을 ‘음성’으로 판단하고, 모든 MLP가 거부한 경우에만 K‑NN이 최종 판단을 수행하도록 설계했다. 이는 시스템 전체의 거부·재판정 능력을 강화한다. 3. 다단계 계층적 군집화(Multi‑level Hierarchical Clustering) 데이터를 군집화하는 단계에서 기존의 k‑means, SOM 등은 군집 수를 사전에 지정해야 하고, 구형 군집 가정으로 비구형 형태를 잘 포착하지 못한다. 논문은 계층적 군집화를 기반으로, dendrogram의 노드 높이 히스토그램을 분석해 서브트리 수준에서 ‘단일 군집’ 여부를 판단한다. 구체적으로, 현재 서브트리의 노드 높이 분포가 한 개의 피크를 보이면 해당 서브트리를 하나의 군집으로 간주하고 더 이상 분할하지 않는다. 반대로, 다중 피크가 나타나면 하위 서브트리를 재귀적으로 탐색한다. 이 과정은 데이터 밀도 차이를 자동으로 반영해, 밀도가 높은 영역은 세밀하게, 밀도가 낮은 영역은 크게 유지한다. 4. 전문가 네트워크 구성 각 군집(‘islet’)에 대해 하나의 MLP를 학습시킨다. 학습 데이터는 해당 군집에 속한 샘플을 양성, 나머지 모든 샘플을 음성 클래스로 라벨링한다. 따라서 각 MLP는 본질적으로 ‘one‑class’ 분류기이며, 군집 내부에서는 높은 정확도를 보이고, 외부에서는 대부분을 음성으로 판단한다. 모든 MLP가 음성으로 판단한 경우에만 K‑NN이 최종 클래스를 결정한다. K‑NN은 비모듈러 방식으로 남은 불확실 영역을 보완한다. 5. 실험 및 결과 NIST 손글씨 숫자 데이터베이스(0‑9)를 사용해 제안 시스템을 평가했다. 실험에서는 (① 단일 MLP, ② 다중 전문가 MLP 시스템, ③ 전통적인 통계적 분류기)와 비교하였다. 제안 시스템은 전체 정확도에서 기존 단일 MLP보다 약 2~3% 향상되었으며, 거부율도 낮아 실제 적용 시 오분류 위험이 감소했다. 또한, 새로운 샘플이 추가될 때 전체 재학습이 필요 없는 모듈형 구조 덕분에 학습 시간과 메모리 사용량이 크게 절감되었다. 6. 논의 및 향후 과제 제안 방법의 장점은 (1) 데이터 밀도 변동을 고려한 자동 군집 탐지, (2) 각 군집에 특화된 단순 MLP와 K‑NN의 혼합, (3) 모듈형 설계에 의한 확장성 및 유지보수 용이성이다. 그러나 군집 탐지 단계에서 히스토그램 임계값을 설정하는 과정이 경험에 의존하고, 고차원 데이터에 대해 dendrogram 구축 비용이 증가한다는 한계가 있다. 향후 연구에서는 임계값 자동 추정, 차원 축소와 결합한 고속 군집화, 그리고 전문가 간 상호작용을 강화하는 결합 전략을 탐구할 필요가 있다.