뇌파 고충실도 기반 모델 BrainRVQ: 이중도메인 잔차 양자화와 계층형 자동회귀의 혁신

본 연구는 EEG 신호의 특수성을 고려한 고충실도 범용 모델 BrainRVQ를 제안한다. 서론에서는 EEG가 높은 시간 해상도를 제공하지만, 저신호대잡음비와 비정상성, 피험자 간 변이성으로 인해 기존 딥러닝 기반 모델이 일반화에 한계를 보인다고 지적한다. 특히, 기존 자기지도 학습(SSL) 접근법은 단일 도메인(시간 혹은 주파수) 토크나이저에 의존하거나, 평면적인 벡터 양자화(VQ)만을 사용해 복잡한 스펙트로‑템포럴 구조를 충분히 포착하지 못한다는 문제를 제시한다. 이에 대한 해결책으로 제안된 것이 Dual‑Domain Residual Vector Quantization(DD‑RVQ)이다. 입력 EEG는 1초(200 샘플) 길이의 패치로 분할되고, 각 패치는 공유 트랜스포머 인코더를 거쳐 통합 임베딩 h를 만든다. 이후 h는 두 개의 독립적인 RVQ 체인, 즉 시간 전용 Q_t와 주파수 전용 Q_f에 전달된다. 각 RVQ는 L개의 코드북을 순차적으로 적용해 잔차를 점진적으로 감소시키며, 최종 양자화 표현은 두 도메인의 코드 합으로 구성된다. 양자화 과정에서 손실 함수는 (1) 시간 파형 재구성 손실, (2) 주파수 진폭·위상 재구성 손실, (3) 각 레이어별 커밋먼트 손실을 결합한 형태이며, stop‑gradient 기법을 사용해 인코더 붕괴를 방지한다. 다음으로, Hierarchical Autoregressive(HAR) 사전학습 목표가 소개된다. 기존 MAE는 마스크된 토큰을 독립적으로 예측하지만, HAR은 토큰을 레이어별로 순차 예측한다. 구체적으로, 레이어 l의 토큰 예측은 이전 레이어(1~l‑1)의 실제 코드와 마스크되지 않은 컨텍스트를 조건으로 삼는다. 이를 위해 각 레이어마다 별도 예측 헤드와 코드 임베딩을 두어, 누적된 코스 레벨 임베딩을 현재 레이어 입력에 더한다. 학습 시에는 teacher‑forcing을 적용해 실제 코드를 사용함으로써 오류 전파를 억제하고, 레이어 가중치 λ_l=2^{-(l-1)} 로 코스 레이어에 더 큰 비중을 둔다. 마스크 전략은 Importance‑Guided Curriculum Masking이다. 각 패치에 대해 스펙트럼 에너지와 시간 복잡도 기반의 중요도 점수를 계산하고, 초기 학습 단계에서는 낮은 임계값으로 넓은 영역을 마스크해 전반적인 구조를 학습한다. 이후 점진적으로 임계값을 높여 고정보도(예: 발작 스파이크, 수면 스핀들)만을 집중 마스크함으로써 모델이 의미 있는 신경 이벤트에 집중하도록 유도한다. 실험 설정은 다음과 같다. 대규모 임상 EEG 데이터(>100 k명, 19채널, 200 Hz)를 사용해 사전학습을 진행했으며, 사전학습된 인코더를 다양한 다운스트림 과제에 파인튜닝하거나 고정된 특징 추출기로 활용했다. 평가된 8개의 과제는 (1) 발작 탐지, (2) 수면 단계 분류, (3) 감정 인식, (4) 운동 이미지 분류, (5) 인지 부하 예측, (6) 뇌‑컴퓨터 인터페이스(BCI) 명령 인식, (7) 알츠하이머 초기 진단, (8) 스트레스 수준 평가 등이다. 모든 과제에서 BrainRVQ는 기존 최첨단 모델(BENDR, LaBraM, BrainBERT, REVE, CBraMod 등) 대비 평균 4.2 %~7.8 %의 정확도·F1 점수 향상을 보였으며, 특히 고주파 이벤트 복원과 장기 의존성 학습에서 두드러진 개선을 나타냈다. Ablation 실험을 통해 DD‑RVQ의 시간·주파수 양쪽 코드북이 모두 필요함을 확인했으며, HAR와 Importance‑Guided Masking 각각이 성능 향상에 기여함을 입증했다. 결론적으로, BrainRVQ는 이중 도메인 잔차 양자화와 계층형 자동회귀 학습이라는 두 축을 통해 EEG 신호의 복합적인 스펙트로‑템포럴 구조를 고충실도로 인코딩한다. 공개된 코드와 모델 가중치는 재현성을 보장하며, 향후 뇌‑컴퓨터 인터페이스, 임상 진단 보조, 신경과학 연구 등 다양한 분야에 적용될 수 있다.