엔드투엔드 음성인식 성능을 끌어올린 정규화 기법

본 논문은 엔드투엔드 음성인식 시스템에서 과적합을 방지하고 성능을 향상시키기 위한 두 가지 정규화 기법, 즉 데이터 증강과 전 레이어 드롭아웃을 체계적으로 연구한다. 서론에서는 딥 뉴럴 네트워크가 높은 표현력을 갖지만 학습 데이터가 제한될 경우 쉽게 과적합한다는 점을 강조하고, 이미지·텍스트 분야에서 성공한 데이터 증강과 드롭아웃이 음성 분야에서는 아직 충분히 탐구되지 않았음을 지적한다. 관련 연구 파트에서는 기존의 음성 데이터 증강 방법을 정리한다. VTLP, 속도 변조, 잡음 추가 등이 대표적이며, 특히 Ko et al.이 제안한 속도 변조가 VTLP보다 효과적이라는 점을 언급한다. 그러나 속도 변조는 템포와 피치가 동시에 변하기 때문에 변형 다양성이 제한된다. 드롭아웃은 초기에는 피드포워드 네트워크에 적용됐고, 이후 음성 모델에도 일부 적용됐지만, 기존 연구는 주로 출력 레이어에만 적용하거나 RNN 내부에 적용하는 것이 복잡해 실제 적용이 어려웠다. 모델 아키텍처는 Deep Speech 2(DS2)를 기반으로 하며, 다음과 같은 차별점을 가진다. 첫 번째, 모든 컨볼루션 레이어에 깊이별 separable convolution을 도입해 연산량을 감소시키면서도 성능을 유지한다. 두 번째, 5개의 Residual Block을 삽입해 그래디언트 흐름을 원활히 하고, 각 블록은 채널 수와 스트라이드가 다르게 설계돼 다양한 스케일의 특징을 추출한다. 이후 4‑layer bidirectional GRU(각 1024 unit)와 두 개의 fully‑connected 레이어가 이어지며, 최종적으로 문자 단위 확률을 출력한다. 모든 레이어에 배치 정규화와 L2 가중치 감쇠를 적용해 학습 안정성을 높였다. 정규화 방법은 두 부분으로 나뉜다. 1) 데이터 증강: 원시 오디오에 대해 템포와 피치를 독립적으로 변형한다. 템포는 0.7~1.3, 피치는 −500~500(센트) 범위에서 무작위로 샘플링한다. 볼륨은 −20~10 dB, 시간 정렬은 0~10 ms 이동, 백색 잡음은 SNR 10~15 dB로 추가한다. 이러한 변형을 조합해 원본 데이터의 수십 배에 달하는 합성 데이터를 생성한다. 2) 드롭아웃: Gal & Ghahramani의 고정 마스크 방식을 차용해, 각 레이어 입력에 대해 시간 축 전체에 동일한 마스크를 적용한다. 이는 RNN에 적용했을 때도 학습 효율을 크게 떨어뜨리지 않으며, 테스트 시에는 1−p 스케일링을 수행한다. 드롭아웃 확률은 입력 레이어 0.1, 모든 컨볼루션 레이어 0.2, 모든 리커런트·FC 레이어 0.3으로 설정했다. 실험 설정은 두 데이터셋을 사용한다. WSJ는 si284(≈80 h) 훈련, dev93 검증, eval92 테스트를 사용했으며, 20K 폐쇄 어휘와 4‑gram 언어 모델을 적용해 beam size 100으로 디코딩한다. LibriSpeech는 전체 960 h 훈련 데이터를 사용하고, dev‑clean/dev‑other를 검증, test‑clean/test‑other를 평가한다. 스펙트로그램(20 ms 윈도우, 10 ms 스트라이드) 입력을 정규화한 뒤, 미니‑배치 SGD(배치 64, 학습률 0.1, Nesterov 모멘텀 0.95)로 학습한다. 학습률은 검증 손실이 정체될 때마다 절반씩 감소시키고, 그래디언트 클리핑(최대 1)과 L2 감쇠(1e‑5)를 적용한다. 결과는 다음과 같다. WSJ 베이스라인(오직 L2) WER 8.38%에 비해, 노이즈 증강만 적용하면 7.88%(-5.9%), 템포·피치 증강만 적용하면 7.02%(-16.2%), 모든 증강을 결합하면 6.63%(-20.9%)를 기록한다. 여기에 전 레이어 드롭아웃을 추가하면 최종 6.26%(-23.3%)가 된다. LibriSpeech에서도 test‑clean은 5.67%(-23.9%), test‑other는 15.18%(-32.8%)로 큰 개선을 보였다. 학습 곡선에서는 정규화 적용 시 훈련 손실과 검증 손실의 차이가 현저히 감소해 과적합 억제가 시각적으로 확인된다. 다른 최신 End‑to‑End 모델과 비교했을 때, 제안 모델은 WSJ에서 6.26%(extended 3‑gram)로 Bahdanau(9.30%)·Graves & Jaitly(8.20%)·Miao et al.(7.34%)보다 우수하며, Deep Speech 2(3.60%)와는 비슷한 수준이다. LibriSpeech에서도 test‑clean 5.67%와 test‑other 15.18%는 Amodei et al.(5.33%/13.25%)와 근접하거나 더 나은 결과다. 이는 복잡한 모델 구조를 크게 변경하지 않고도 정규화만으로도 경쟁력을 확보할 수 있음을 의미한다. 결론에서는 데이터 증강과 전 레이어 드롭아웃이 각각 독립적으로, 그리고 결합했을 때 시너지 효과를 발휘해 엔드투엔드 음성인식 모델의 일반화 성능을 크게 향상시킨다고 정리한다. 또한, 제안 방법이 비교적 구현이 간단하고 기존 툴(SoX, PyTorch 등)과 쉽게 통합될 수 있어 실무 적용 가능성이 높다고 강조한다. 향후 연구 방향으로는 리커런트 드롭아웃, SpecAugment와 같은 스펙트로그램 기반 증강, 그리고 Transformer 기반 인코더와의 결합을 제시한다.