EMD 기반 시계열 예측에서 끝 효과 억제가 성능에 미치는 영향

본 논문은 경험적 모드 분해(EMD) 기반 시계열 예측 프레임워크에서 흔히 간과되는 ‘끝 효과(end effect)’ 문제를 체계적으로 다루고, 이를 해결하기 위한 네 가지 전통적인 끝 조건 방법을 도입하여 모델 성능을 향상시키는 연구이다. 1. 연구 배경 및 필요성 EMD는 비선형·비정상 시계열을 내재 모드 함수(IMF)와 잔차로 분해하는 적응형 기법으로, 이후 각 IMF를 개별 모델에 학습시켜 예측 정확도를 높이는 “분해‑앙상블” 구조가 장점이다. 그러나 EMD의 sifting 과정에서 데이터 양끝의 극값을 정확히 찾지 못하면 상·하 envelope를 구성할 때 인공적인 곡률이 발생하고, 이는 전체 IMF의 형태를 왜곡하는 ‘끝 효과’를 초래한다. 기존 연구들은 이 현상을 무시하거나 사후 보정에 머물렀으며, 실제 예측 성능에 미치는 영향을 체계적으로 검증하지 않았다. 2. 끝 조건 방법 선정 논문에서는 널리 사용되는 네 가지 끝 조건 방법을 선택하였다. - **Mirror 방법**: 양끝 첫 번째 극값을 대칭 복제하여 연장한다. - **Coughlin 방법**: 데이터에서 추정한 진폭(A)과 주기(P)를 이용해 정현파 형태의 파형을 추가한다. - **Slope‑based 방법**: 양끝의 기울기(s₁, s₂)를 계산하고, 이를 기반으로 가상의 극값을 삽입한다. - **Rato 방법**: 기존 극값과 기울기를 조합해 새로운 극값을 생성한다. 각 방법은 EMD의 sifting 단계에 직접 통합되어, spline 보간 시 인공적인 왜곡을 최소화한다. 3. 모델링 프레임워크 예측 엔진으로 지원 벡터 회귀(SVR)를 채택하였다. SVR은 작은 학습 데이터에서도 일반화 오차를 효과적으로 제어하고, 커널 함수를 통해 비선형 관계를 포착할 수 있다. 논문에서는 RBF 커널을 사용하였다. 프레임워크는 다음 세 단계로 구성된다. - **Step 1**: 원본 시계열을 EMD와 선택된 끝 조건 방법을 결합해 IMF와 잔차로 분해한다. - **Step 2**: 각 IMF와 잔차에 대해 독립적인 SVR 모델을 학습시켜 각각을 예측한다. - **Step 3**: 모든 IMF·잔차 예측값을 또 다른 SVR에 입력해 최종 예측값을 앙상블한다. 이 구조는 “분해‑개별‑재조합”의 장점을 유지하면서, 끝 효과 억제가 전체 프레임워크에 미치는 영향을 평가한다. 4. 실험 설계 실험 데이터는 NN3 대회에서 제공된 111개의 시계열이며, 1‑step, 3‑step, 6‑step 예측 과제로 구성하였다. 비교 모델로는 기존 EMD‑SVR(끝 조건 미적용)과 네 가지 끝 조건을 적용한 EMD‑MM‑SVR, EMD‑Coughlin‑SVR, EMD‑SBM‑SVR, EMD‑Rato‑SVR을 사용하였다. 성능 평가는 MAPE, RMSE, MAE 등 다중 지표와 Diebold‑Mariano(DM) 테스트를 포함하였다. 5. 주요 결과 - 모든 끝 조건 기법이 기본 EMD‑SVR 대비 평균 MAPE를 4~7% 감소시켰다. - 특히 **Slope‑based**와 **Rato** 방법이 가장 큰 개선을 보였으며, DM 테스트에서도 통계적으로 유의미한 차이를 나타냈다. - **Mirror**와 **Coughlin** 방법도 개선 효과가 있었지만, 극값 대칭이나 파형 추정 과정에서 과적합 위험이 있어 성능 변동성이 다소 컸다. - 다중 단계 예측(3‑step, 6‑step)에서도 끝 조건 적용 모델이 일관되게 우수한 성능을 유지하였다. 6. 논의 및 시사점 실험 결과는 끝 효과가 IMF의 형태와 에너지 분포에 미치는 영향이 예측 단계까지 전이된다는 것을 실증적으로 증명한다. 즉, EMD 단계에서의 작은 왜곡이 이후 SVR 학습 시 잡음으로 작용해 일반화 성능을 저하시킬 수 있다. 따라서 끝 조건 기법을 사전에 적용해 IMF를 보다 “깨끗하게” 만들면, 하위 모델링 단계에서 파라미터 튜닝 부담이 감소하고, 전체 프레임워크의 안정성이 향상된다. 7. 한계 및 향후 연구 - 실험 데이터가 주로 금융·경제 시계열에 국한되어 있어, 환경·의료 등 다른 도메인에서의 일반화 가능성을 추가 검증이 필요하다. - SVR 외에 LSTM, XGBoost 등 최신 딥러닝·부스팅 모델과의 비교가 이루어지지 않아, 다양한 모델과의 하이브리드 가능성을 탐색할 여지가 있다. - 자동화된 끝 조건 선택 메커니즘이나, 데이터 특성에 따라 동적으로 방법을 전환하는 전략을 개발하면 프레임워크의 적용 범위가 확대될 것이다. 결론적으로, 본 연구는 EMD 기반 시계열 예측에서 끝 효과 억제가 성능 향상에 실질적인 기여를 함을 최초로 실증하고, Slope‑based와 Rato 방법을 특히 추천한다는 실용적인 가이드를 제공한다.