생물학적 학습을 닮은 모멘텀 기반 STDP 프레임워크

본 논문은 뇌에서 관찰되는 시냅스 가소성 메커니즘인 Spike‑Timing Dependent Plasticity(STDP)를 인공 신경망 학습에 직접 적용함으로써, 전통적인 역전파 기반 학습과의 차이를 최소화하고 보다 생물학적으로 타당한 학습 프레임워크를 제시한다. 이를 위해 저자들은 “Momentum‑STDP”(MSTDP)라는 새로운 학습 체계를 설계했으며, 주요 특징은 다음과 같다. 1. **학습 목표의 전역 손실 함수 폐기** 기존 딥러닝에서는 전체 네트워크에 대한 손실 함수를 정의하고, 그 그래디언트를 역전파한다. MSTDP는 각 뉴런이 자체적인 내부 상태 s와 주변 뉴런으로부터 받는 압력 R(s)를 이용해 에너지 E(식 3)를 최소화하도록 설계한다. 이때 s는 leaky‑integrator 형태의 연속 미분 방정식(식 1)으로 업데이트되며, R(s)는 가중치 W와 비선형 함수 ρ에 의해 계산된다. 2. **STDP 규칙의 변형 및 클램프‑자유 단계 통합** 전통적인 STDP는 프리와 포스트 스파이크 시점 차이에 비례해 가중치를 조정한다. 저자들은 이를 CHL의 차이 기반 규칙과 유사하게 변형해, 클램프된 상태 ρ_c와 자유 상태 ρ_f 사이의 차이를 직접 가중치 업데이트에 반영한다(식 6‑7). 이 방식은 별도의 “클램프 단계”와 “자유 단계” 사이를 명시적으로 구분하지 않고, 매 반복마다 동일한 학습 규칙을 적용한다는 점에서 생물학적 학습과 유사하다. 3. **입력‑출력 통합 자동인코더 구조** 입력 뉴런을 동시에 출력 뉴런으로 활용함으로써, 입력 데이터를 라벨과 결합한 형태로 네트워크에 제공한다. 이는 자동인코더와 유사한 구조를 형성하며, 라벨을 클램프하면 입력 데이터를 “in‑painting” 방식으로 복원하도록 만든다. 입력 뉴런에 외부 데이터 압력 β (식 8)를 추가해, 입력이 현재 데이터에 맞추어지도록 강제한다. 이 압력은 에너지 보조항 C(식 10)로 표현되며, 학습 목표는 C를 최소화하는 것이다. 4. **모멘텀 기반 반복 추론** 클램프와 자유 단계 사이의 전이 과정에서 고정점(steady‑state) 간 이동이 느리거나 정체될 수 있다. 이를 해결하기 위해 저자들은 물리학에서 차용한 모멘텀 개념을 도입한다. 상태 s의 변화율을 속도 v로 정의하고(식 11), 속도 업데이트에 관성 파라미터 m을 포함한다(식 12). 모멘텀은 “관성”을 제공해 현재 고정점에서 벗어나 새로운 고정점으로 빠르게 이동하도록 돕는다. 5. **학습 및 테스트 절차** 학습은 다음 순서로 진행된다. (1) 무작위 초기화된 W, b, s 설정, (2) 데이터 샘플 선택 후 β=1.0 인 클램프 단계에서 일정 횟수(예: 32) 반복하며 s와 W, b를 동시에 업데이트, (3) β=0 인 자유 단계에서 또다시 s를 업데이트하지만 가중치는 고정, (4) 위 과정을 T번 반복하고 전체 데이터에 대해 에폭을 수행한다. 테스트 단계는 학습 단계와 동일하지만 가중치 업데이트를 하지 않는다. 6. **실험 설정 및 결과** - **네트워크 구조**: 입력/출력 784 + 10 뉴런, 은닉 2048 뉴런, 완전 연결, 입력 간 상호 연결 없음. - **데이터**: MNIST(숫자 0‑9) 10,000개를 학습, 500개를 테스트. - **하이퍼파라미터**: 학습률 α=0.001, 클램프 단계 ε=0.2, β=0.8, m=0.4; 자유 단계 ε=0.2, β=0, m=0. - **반복 횟수**: 각 클램프·자유 단계 32번 내부 반복, 전체 10번 클램프·자유 사이클, 총 500,000번 업데이트. - **성능**: 훈련 정확도 100%, 테스트 정확도 96%. - **시각화**: 클램프와 자유 단계 사이의 고정점 변화를 그림 1에 제시하고, 모멘텀 추론이 실제 생물학적 뉴런의 전기적 반응과 유사함을 그림 2로 비교하였다. - **생성**: 라벨을 클램프하고 자유 단계를 수행해 특정 숫자에 해당하는 이미지를 생성했으며, 그림 3에 몇몇 샘플을 제시하였다. 7. **논의 및 한계** - **희소성 부재**: 실제 뉴런은 스파이크 발생 시 에너지를 소모하고, 희소한 활성 패턴을 보인다. 본 모델은 연속적인 s 값을 사용해 희소성을 구현하지 않는다. - **고정점 정착**: 학습 후 네트워크가 하나의 고정점에 머무르며, 지속적인 “생각”이나 동적 변화를 보이지 않는다. 실제 뇌는 피로도, 억제 메커니즘 등을 통해 고정점 탈출이 가능하다. - **수식적 근사**: 에너지 E의 미분 과정에서 비대칭 가중치 W_ij를 사용했으며, 이는 실제 물리적 장(field)의 회전(curl)이 0이 아니게 만들어 고정점의 안정성을 저해할 수 있다. - **실험 범위 제한**: MNIST 외 데이터셋, 배치 학습, 깊은 네트워크 등에 대한 검증이 부족하다. - **스파이크 모델과의 차이**: 연속 s 값을 사용함으로써 진정한 스파이킹 뉴런 시뮬레이션과는 거리가 있다. 8. **결론 및 향후 연구** MSTDP는 STDP와 모멘텀을 결합해 전역 손실 없이도 지도·비지도 학습을 수행할 수 있음을 실험적으로 보여준다. 향후 연구에서는 (i) 스파이크 기반 구현을 통해 진정한 시간적 스파이크 역학을 도입, (ii) 희소성 메커니즘을 추가해 에너지 효율성을 높이고, (iii) 다양한 데이터와 네트워크 깊이에 대한 확장 실험을 수행함으로써 모델의 일반화 능력을 검증할 필요가 있다.