대조학습과 지속적 대조학습의 그래디언트 분산 비교

본 논문은 제한 볼츠만 머신(RBM) 학습에 널리 사용되는 두 가지 근사 방법, 대조학습(Contrastive Divergence, CD)과 지속적 대조학습(Persistent Contrastive Divergence, PCD)의 그래디언트 추정 분산을 체계적으로 비교한다. 기존 연구에서는 CD가 편향된 그래디언트를 제공한다는 점은 잘 알려져 있었지만, CD와 PCD가 각각 어떤 분산 특성을 가지는지는 충분히 조사되지 않았다. 저자들은 이 공백을 메우기 위해 세 가지 데이터셋(MNIST‑14×14, CIFAR‑14×14, Caltech‑101 Silhouettes)에서 동일한 RBM 구조를 사용해 실험을 설계하였다. **모델 및 학습 설정** - 가시 유닛 수와 은닉 유닛 수를 동일하게 설정(각 데이터셋에 맞는 크기). - 가중치 초기화: 평균 0, 표준편차 1/√(n_v+n_h)인 정규분포. - 편향(b, c)은 0으로 초기화. - 학습은 CD‑1을 사용해 10 epoch과 500 epoch까지 진행. - 적응형 학습률(초기 η=0.01) 사용, 가중치 감쇠 없음. - 최종 샘플링 단계에서 은닉 유닛의 이진값 대신 연속 확률을 사용(Rao‑Blackwellisation). **평가 방법** 각 epoch에서 개별 데이터 포인트에 대해 양성 입자와 부정 입자를 각각 하나씩 샘플링하고, 그에 기반한 그래디언트 추정을 10번 반복해 분산을 계산한다. 분산은 가중치 행렬 원소별로 구한 뒤 평균을 취한다. 비교 대상은 다음과 같다. 1. CD‑k (k=1~10): 현재 데이터 포인트에서 k 단계 Gibbs 샘플링. 2. CD‑1000: 거의 정확한 샘플링으로 기준선. 3. I‑CD‑k: 부정 입자를 완전히 독립적인 다른 데이터 포인트에서 샘플링. 4. PCD: 이전 학습 단계에서 얻은 부정 입자를 사용하고, 매 단계마다 한 번 Gibbs 스텝을 수행; k번 연속 추정값을 평균해 분산을 측정. **주요 결과** - **CD‑k vs CD‑1000**: CD‑1은 CD‑1000 대비 약 30~50 % 낮은 분산을 보이며, k가 증가함에 따라 분산이 급격히 상승한다. 특히 500 epoch 후반에서는 모델이 고정점에 가까워져 마코프 체인의 혼합이 어려워지므로 CD‑k의 분산이 크게 늘어난다. - **I‑CD‑k**: 부정 입자를 독립적으로 샘플링하면 분산이 CD‑1000과 거의 동일하거나 더 높아진다. 이는 CD‑k의 낮은 분산이 “양성 입자와 부정 입자를 같은 데이터 포인트에서 시작한다”는 특성에 기인함을 입증한다. - **PCD**: 연속적인 k번 추정값을 평균했을 때의 분산은 CD‑1000보다 2~4배 정도 높으며, epoch가 진행될수록 차이가 확대된다. 이는 PCD가 동일한 마코프 체인에서 샘플을 추출하기 때문에 샘플 간 상관관계가 강해져 평균의 분산이 증가함을 의미한다. - **학습 효율성**: CD‑1은 낮은 분산 덕분에 작은 미니배치(N≈10~20)와 큰 학습률(η≈0.01)에서도 안정적인 업데이트가 가능하다. 반면 PCD는 평균 그래디언트의 분산이 크므로 동일한 학습 효율을 얻기 위해서는 더 작은 학습률이나 더 큰 미니배치가 필요하다. **해석 및 의의** 저자들은 CD와 PCD 사이의 차이를 **편향‑분산 트레이드오프**로 설명한다. CD는 편향이 크지만 분산이 작아 빠른 수렴을 가능하게 하고, PCD는 편향이 거의 없지만 높은 분산 때문에 학습 속도가 느리고 작은 학습률을 요구한다. 이러한 관점은 기존에 “CD는 빠르고 PCD는 안정적이다”라는 경험적 관찰을 이론적으로 뒷받침한다. **한계와 향후 연구** 현재 연구는 전적으로 실험에 기반하고 있으며, 마코프 체인의 혼합 특성을 이론적으로 분석한 결과는 제시되지 않았다. 또한 CD‑1000을 “정확한” 샘플링으로 가정했지만, 실제로는 병렬 템퍼링이나 강화 그래디언트와 같은 더 정교한 방법이 필요할 수 있다. 향후 연구에서는 이러한 고급 샘플링 기법을 도입해 기준선을 강화하고, 다양한 네트워크 구조(예: 깊은 신경망, 연속형 가시 유닛)에서도 동일한 분산 분석을 수행할 계획이다. 결론적으로, 본 논문은 CD가 낮은 그래디언트 분산을 통해 작은 미니배치와 큰 학습률에서도 효과적으로 학습할 수 있음을 실증적으로 보여주었으며, PCD는 높은 평균 분산 때문에 학습률을 낮추거나 미니배치를 늘려야 함을 밝혀냈다. 이는 RBM 학습에서 CD와 PCD 중 어느 방법을 선택할지에 대한 실용적인 가이드라인을 제공한다.