드롭아웃 네트워크의 엔트로피와 불확실성을 활용한 전역 SNR 추정

본 논문은 음성 인식 시스템에서 흔히 사용되는 DNN‑HMM 모델을 활용해 전역 SNR을 추정하는 두 가지 새로운 방법을 제안한다. 먼저, 서론에서는 SNR 추정이 잡음에 강인한 ASR, 음성 강화, 노이즈 억제 등 다양한 응용에서 핵심 역할을 한다고 강조한다. 기존 연구들은 신호 에너지, 피치, 가우시안·감마 모델링, VAD 기반 스펙트럼 추정 등 다양한 특징과 통계적 방법을 사용했지만, 딥러닝 기반 모델의 내부 불확실성을 직접 이용한 시도는 드물었다. 관련 연구 섹션에서는 전통적인 특징 기반 회귀, NIST‑STNR 도구, 그리고 최근의 신경망 기반 SNR 추정 방법들을 정리한다. 특히, Gal·Ghahramani의 드롭아웃을 베이지안 근사로 보는 접근을 인용해, 드롭아웃을 이용한 모델 불확실성 추정이 가능함을 설명한다. 첫 번째 방법인 엔트로피 기반 SNR 추정은 DNN‑HMM이 출력하는 포스터리어 확률 분포의 샤논 엔트로피를 계산한다. 프레임별 엔트로피를 평균해 utterance‑level 엔트로피를 구하고, 이를 다항 회귀기로 매핑해 SNR을 예측한다. 잡음이 섞이면 출력 확률이 고르게 퍼져 엔트로피가 상승한다는 가정에 기반한다. 두 번째 방법은 드롭아웃을 이용한 베이지안 불확실성 추정이다. 추론 시 드롭아웃 마스크를 무작위로 적용해 여러 번 전방패스를 수행하고, 각 차원의 출력 분산을 계산한다. 프레임별 분산을 평균해 utterance‑level 불확실성을 얻고, 이를 회귀기(f₂)로 매핑한다. 또한, 엔트로피와 불확실성을 동시에 입력으로 하는 회귀기(f₃)도 실험한다. 연산 비용을 줄이기 위해, 저자들은 “fast dropout uncertainty”를 목표로 불확실성을 직접 예측하는 별도 네트워크(variance network)를 설계한다. 이 네트워크는 입력 프레임과 기존 드롭아웃 네트워크에서 얻은 불확실성 샘플을 학습 데이터로 사용해, 단일 전방패스로 불확실성을 추정한다. 실험은 GRID 코퍼스(95 % 학습, 5 % 테스트)를 사용해 6‑layer, 1024‑노드 DNN‑HMM을 학습하고, 40 ms 윈도우, 10 ms 쉬프트의 40‑차원 멜 필터뱅크 특징을 입력으로 사용한다. 드롭아웃 비율 p=0.2를 모든 은닉층에 적용했다. 테스트는 DEMAND 데이터베이스의 16가지 잡음(예: kitchen, park, meeting 등)과 -10 dB부터 30 dB까지의 SNR 레벨에서 수행했다. 결과는 엔트로피와 불확실성 모두 SNR과 강한 음의 상관관계를 보였으며, 특히 불확실성 기반 회귀(f₂)의 평균 절대 오차(MAE)가 2 dB 이하로 기존 NIST·WADA 방법보다 현저히 낮았다. 잡음 종류가 훈련에 포함되지 않은 경우에도 추정 정확도가 크게 감소하지 않아 모델의 잡음 일반화 능력을 확인했다. 다만, 최종 SNR 추정에 잡음별 회귀기가 필요하다는 점은 완전한 잡음‑불변 추정으로는 아직 부족함을 의미한다. 결론에서는 엔트로피와 베이지안 불확실성이 음성 신호의 잡음 수준을 추정하는 유용한 지표임을 재확인하고, 이러한 정보를 활용해 ASR 및 음성 강화 시스템을 더욱 견고하게 만들 수 있는 가능성을 제시한다. 향후 연구 과제로는 순간 SNR 추정, 잡음‑조건 없는 엔드‑투‑엔드 SNR 모델, 비음성 신호에의 적용, 그리고 불확실성 정보를 직접 활용한 잡음 억제 알고리즘 설계 등이 제시된다.