경량화 벡터 양자화와 혼합 커널 UNet을 활용한 강우 즉시예보 모델

본 논문은 기상 분야에서 실시간 강우 예보를 위한 경량 딥러닝 모델 개발을 목표로 한다. 기존의 수치예보(NWP)는 높은 연산 비용으로 인해 실시간성이나 엣지 배포에 한계가 있다. 최근 UNet 기반의 데이터‑드리븐 모델이 좋은 성과를 보였지만, 파라미터 규모와 해석 가능성에서 여전히 개선 여지가 있다. 이를 해결하고자 저자들은 SmaAT‑UNet을 기반으로 두 가지 구조적 변형을 도입한 SmaAT‑QMix‑UNet을 설계하였다. 1. **벡터 양자화(VQ) Bottleneck** - 인코더‑디코더 연결부에서 연속적인 특징 맵을 K=32개의 코드워드 중 가장 가까운 것으로 대체한다. - 코드워드 차원 D는 채널 수 C와 동일하게 설정해 차원 손실 없이 양자화한다. - 학습 시 커밋먼트 손실(β = 0.75)과 코드북 손실을 추가해 양자화 오류를 최소화한다. - 양자화는 잡음에 강하고, 특징을 이산화해 해석이 용이하도록 만든다. 2. **MixConv 블록** - 깊이별 분리 합성곱(Depthwise‑Separable Conv) 대신, 채널을 두 그룹으로 나누어 3×3과 5×5 깊이별 합성곱을 병렬 적용한다. - 두 그룹의 출력은 concat 후 1×1 포인트와이즈 합성곱으로 재통합한다. - 이 구조는 다양한 수용 영역을 동시에 활용해 국부적 강수 구조와 넓은 이동 패턴을 동시에 포착한다. - 파라미터 수와 FLOPs를 감소시키면서도 표현력을 유지한다. **모델 구성** - 인코더: 5단계, 각 단계에 DoubleDSC(두 개의 깊이별 분리 합성곱)와 CBAM attention을 적용. - 레벨 4·5에서는 MixConv 블록으로 교체. - Bottleneck에 VQ 모듈 삽입, 코드북 크기 K=32, D=C=512. - 디코더: 4단계, 첫 단계에 MixConv, 나머지는 원래 DoubleDSC. - 최종 1×1 합성곱으로 단일 채널 강우 예보를 출력한다. **실험 설정** - 데이터: 네덜란드 KNMI 레이더(5분 간격, 2016‑2019), 288×288 픽셀, 12프레임(60분) 입력 → 30분 후 강우 예보. - 전처리: 50 % 이상 강수 픽셀을 포함하는 샘플만 사용(NL‑50 서브셋). - 학습: Adam, lr 0.001, batch 8, 최대 100 epoch, early‑stop(15 epoch 연속 개선 없을 시). - 하이퍼파라미터 탐색: 코드북 크기 K∈{8,16,32,64}, β∈{0.25,0.5,0.75,1.0}. 최적은 K=32, β=0.75. **비교 모델** - Baseline: 원본 SmaAT‑UNet (파라미터 ≈ 4 M). - SmaAT‑Mix‑UNet: MixConv만 적용. - SmaAT‑Q‑UNet: VQ만 적용. - SmaAT‑QMix‑UNet: 두 기법 모두 적용. **성능 평가** - 주요 지표는 픽셀‑단위 MSE이며, 보조 지표로 Precision, Recall, Accuracy, F1을 사용. - Persistence(마지막 입력 프레임 복제)도 베이스라인으로 포함. | 모델 | 파라미터 (M) | MSE | Precision | Recall | Accuracy | 추론 시간 (ms) | |------|--------------|------|-----------|--------|----------|----------------| | Persistence | – | 0.0185 | 0.421 | 0.673 | 0.612 | – | | SmaAT‑UNet | 4.0 | 0.0122 | 0.642 | 0.850 | 0.791 | 13 | | SmaAT‑Mix‑UNet | 3.2 | 0.0129 | 0.635 | 0.822 | 0.778 | 11 | | SmaAT‑Q‑UNet | 3.5 | 0.0119 | 0.658 | 0.839 | 0.803 | 9 | | **SmaAT‑QMix‑UNet** | **2.5** | **0.0120** | **0.691** | **0.812** | **0.809** | **7** | - VQ를 적용한 SmaAT‑Q‑UNet은 MSE와 Precision에서 가장 큰 개선을 보이며, 파라미터도 12 % 감소한다. - MixConv만 적용한 SmaAT‑Mix‑UNet은 파라미터는 감소하지만 성능이 오히려 저하된다. - 두 기법을 결합한 SmaAT‑QMix‑UNet은 파라미터 37.5 % 감소(2.5 M)와 추론 시간 6 ms 절감이라는 실용적 이점을 제공하면서, MSE는 baseline과 동등 수준, Precision은 +0.033, Accuracy는 +0.018 상승한다. Recall은 VQ의 정규화 효과로 약간 감소했지만, 전체적인 F1 점수는 개선된다. **해석 가능성** - Grad‑CAM을 인코더·디코더 각 레이어에 적용해, 모델이 어느 영역에 집중하는지 시각화하였다. VQ‑bottleneck 전후로 Grad‑CAM이 크게 변하며, 특정 코드워드가 특정 강수 패턴(예: 강한 국지성 폭우)과 연관됨을 확인했다. - UMAP은 양자화 전후의 512‑D 특징을 2‑D에 투영해, 양자화 후에는 32개의 코드워드 중심에 데이터가 집중되는 모습을 보여준다. 이는 VQ가 특징 공간을 명확히 구분된 클러스터로 압축함을 의미한다. **결론 및 향후 과제** - SmaAT‑QMix‑UNet은 파라미터 효율성, 추론 속도, 그리고 해석 가능성을 동시에 달성한 강우 즉시예보 모델이다. - 경량화된 구조는 엣지 디바이스(예: 현장 레이더, 모바일 기상 앱)에서 실시간 운용이 가능하도록 만든다. - VQ 기반 이산 표현은 기상 전문가와의 커뮤니케이션, 모델 디버깅, 그리고 잠재적인 기상 패턴 라벨링에 활용될 수 있다. - 향후 연구에서는 코드북 크기와 β를 동적으로 조정하는 메타‑학습, VQ‑GAN을 결합한 확률적 강우 예보, 그리고 다중 기상 변수(온도, 바람 등)를 함께 입력해 멀티모달 예보 성능을 높이는 방안을 탐색할 수 있다.