멀티변량 시계열 예측을 위한 이중 서러게이트 기반 Uni‑TSFM 적응 프레임워크

본 논문은 대규모 사전학습된 단변량 시계열 기반 모델(uni‑TSFM)이 멀티변량 예측에 직접 적용되기 어려운 문제를 해결하고자, “DualWeaver”라는 새로운 적응 프레임워크를 제안한다. 기존 접근법은 (a) 채널 독립적으로 각각 예측하거나, (b) Uni‑TSFM을 인코더‑디코더 구조로 감싸 변수 간 상호작용을 학습하는 방식이었다. 전자는 변수 간 종속성을 전혀 활용하지 못하고, 후자는 디코더가 원본 시계열을 복원하는 데 과도한 용량을 할당해 핵심 적응 능력을 희석한다는 한계가 있었다. DualWeaver는 이러한 문제를 두 단계로 해결한다. 첫 번째는 **공유 특성‑융합 모듈(f)** 로, 입력 X∈ℝ^{L×C}를 동일 차원의 융합 시계열 f(X)로 변환한다. 이 모듈은 MLP 기반이 기본이지만, CNN, GNN, Transformer 등으로 교체 가능하도록 설계돼, 각 타임스탬프마다 변수 간 비선형 관계를 학습한다. 두 번째는 **이중 서러게이트(Sα, Sβ)** 로, f(X)에 채널별 가중치 wα, wβ를 각각 더하고 빼는 형태다. - Sα = f(X) + wα ⊙ X (양‑방향) - Sβ = f(X) – wβ ⊙ X (음‑방향) 이때 wα, wβ는 학습 가능한 스칼라 벡터이며, 두 서러게이트는 구조적으로 대칭을 이루어 서로 보완적인 최적화 경로를 제공한다. Frozen된 Uni‑TSFM M은 Sα와 Sβ를 그대로 입력받아 각각 ˆSα, ˆSβ를 출력한다. 최종 멀티변량 예측 ˆY는 파라미터‑프리 복원식 ˆY = (1/(wα + wβ)) ⊙ (ˆSα – ˆSβ) 에 의해 직접 계산된다. 이 과정에서 별도의 디코더 파라미터가 필요 없으며, wα + wβ가 0에 가까워지는 경우 정규화 항 Ω가 무한대로 발산하도록 설계해 수치적 안정성을 보장한다. **이론적 분석**에서는 각 채널 i에 대해 오류 상한 Ω_i = 2/(wα_i + wβ_i)^2·(E_i^α + E_i^β) 를 도출하고, Ω_i ≤ E_i^{ori} (채널 독립 예측의 MSE) 를 만족하면 DualWeaver가 기존 방법보다 더 낮은 오류를 보장한다는 충분조건을 제시한다. 이를 기반으로 **오류 상한 정규화(L_bound)** 를 손실 함수에 포함시켜, 적응 과정에서 과적합과 발산을 억제한다. 학습 목표는 L_total = Lα + Lβ + λ·L_bound, 여기서 Lα, Lβ는 각각 서러게이트에 대한 MSE이며, λ는 기본값 1로 설정해 경험적 손실과 이론적 안전성을 동등하게 고려한다. 초기화 시 f를 0으로 두어 Uni‑TSFM의 원래 예측 능력을 그대로 보존하면서, 점진적으로 변수 간 상호작용을 학습한다. **실험**에서는 5개의 공개 멀티변량 시계열 데이터셋(전력 부하, 교통 흐름, 주가, 기상 등)과 3개의 자체 수집 데이터셋을 사용해 광범위한 비교를 수행했다. 주요 결과는 다음과 같다. 1. DualWeaver는 최신 멀티변량 Transformer(GTT, Chronos‑2)와 GNN 기반 모델을 평균 4.2%~7.5% 낮은 MAE/SMAPE로 능가했다. 2. 데이터가 희소하거나 시계열 길이가 짧은 상황에서 특히 큰 성능 향상이 관찰되었으며, 이는 Uni‑TSFM의 사전학습된 시간적 지식이 그대로 활용되기 때문이다. 3. 표준편차 측면에서 기존 모델 대비 30%~45% 감소, 즉 예측 안정성이 크게 개선되었다. 4. Ablation study에서 (i) 이중 서러게이트를 단일 서러게이트로 교체, (ii) L_bound 정규화를 제거, (iii) f 모듈을 단순 선형 변환으로 교체했을 때 모두 성능이 현저히 저하됨을 확인했다. 또한, **모듈 교체 실험**에서 MLP 대신 CNN 기반 특성‑융합 모듈을 적용했을 때도 비슷한 수준의 성능을 유지했으며, 이는 프레임워크가 다양한 백본에 쉽게 적용 가능함을 의미한다. **결론**적으로 DualWeaver는 (1) 기존 Uni‑TSFM을 그대로 활용해 파라미터 효율성을 극대화, (2) 이론적 오류 상한 정규화로 적응 안정성을 확보, (3) 구조적 대칭과 공유 융합 모듈을 통해 변수 간 복잡한 상호작용을 효과적으로 학습한다는 세 가지 핵심 장점을 제공한다. 코드와 데이터는 공개 저장소(https://github.com/li-jinpeng/DualWeaver)에서 확인할 수 있다.