D‑최적 베이지안 탐색으로 RNN 파라미터와 잡음 식별
본 논문은 온라인 베이지안 프레임워크에서 D‑최적(Infomax) 원리를 적용해 순환 신경망(RNN)의 가중치와 구동 잡음의 분산을 동시에 추정하는 방법을 제시한다. 매 시간 단계마다 현재 관측과 사전 정보를 이용해 최적의 제어(자극) 입력을 선택하고, 정규‑역위시트 사전과 정규‑행렬 정규분포 사후를 이용해 근사 없이 닫힌 형태의 업데이트 식을 도출한다. 파라미터 추정과 잡음 추정은 서로 상충되는 목표이며, 각각에 대해 별도의 그리디 최적 제어…
저자: Barnabas Poczos, Andras Lorincz
본 논문은 순환 신경망(RNN)의 파라미터와 구동 잡음(노이즈)을 동시에 식별하기 위한 온라인 베이지안 프레임워크를 제안한다. 연구 배경으로는 실시간 시스템에서 빠른 정보 획득이 중요한데, 특히 뇌 신경 과학 실험에서 자극을 최적화해 신경 반응을 최대화하려는 시도가 있다. 이러한 맥락에서 저자들은 일반화 선형 모델(GLM) 접근을 차용해, 파라미터를 확률 변수로 보고 베이지안 업데이트를 수행한다.
**모델 정의**
RNN의 동역학을
\
원본 논문
고화질 논문을 불러오는 중입니다...
댓글 및 학술 토론
Loading comments...
의견 남기기