혼합 히든 마코프 모델을 이용한 주식 초과 성장률 동역학의 점프‑디퓨전 접근
본 논문은 연속형 초과 성장률을 라플라스 분위수 기반 이산 상태로 구분하고, 포아송 점프‑지속 메커니즘을 결합한 혼합 히든 마코프 모델(HMM)을 제안한다. 전이 확률은 직접 카운팅 방식으로 추정해 EM 알고리즘의 복잡성을 제거하고, 10년간 SPY 일일 데이터와 1,000개의 시뮬레이션을 통해 분포 적합도(KS·97 %, AD·91 %)와 변동성 클러스터링을 동시에 재현한다. GARCH와 표준 HMM 대비 전반적인 품질이 가장 균형 잡힌 결과…
저자: Abdulrahman Alswaidan, Jeffrey D. Varner
본 논문은 금융 시장의 핵심 스타일화된 사실을 동시에 만족시키는 합성 시계열 생성 모델을 설계하고 검증한다. 서론에서는 합성 데이터가 스트레스 테스트, 위험 모델 검증, 머신러닝 학습 데이터 보강 등에 필수적이며, 특히 주식 초과 성장률이 보여주는 무거운 꼬리, 선형 자기상관 부재, 지속적인 변동성 클러스터링을 모두 재현해야 함을 강조한다. 기존 접근법—GARCH, 스토캐스틱 변동성·점프‑디퓨전, 딥 GAN, 표준 HMM—은 각각 한두 가지 특성은 잘 맞추지만, 전부를 동시에 만족시키지는 못한다는 한계를 지적한다.
연구 방법론에서는 먼저 초과 성장률을 라플라스 분포의 분위수에 따라 K개의 이산 상태로 구분한다. 라플라스는 실제 SPY 수익률의 중앙부와 꼬리 모두를 잘 설명하므로, 상태 구분 자체가 레프토쿠르틱 특성을 내재한다. 이후 전이 메커니즘에 포아송 점프‑지속 프로세스를 도입한다. 고변동성 tail‑state에 진입하면, 포아송 파라미터 λ에 따라 일정 기간(점프 지속) 동안 해당 상태에 머무르게 하여, 상태 체류 시간이 기하분포가 아닌 평균 λ를 갖는 지수분포에 가까워지게 만든다. 이는 반세미마코프 모델과 유사한 효과를 제공하지만, 전이 행렬을 직접 카운팅함으로써 추정 복잡도를 크게 낮춘다.
전이 확률 추정은 전통적인 Baum‑Welch EM 대신, 라플라스 분위수에 따라 정의된 이산 상태 간 전이 횟수를 직접 세어 정규화한다. 이 방법은 초기값 의존성을 제거하고, 다자산 확장 시 O(N) 연산으로 확장성을 확보한다.
실험 설계는 2014‑2024년 10년간 일일 SPY 데이터를 학습에 사용하고, 2025년 전체 거래일(249일)을 테스트 기간으로 설정한다. 1,000개의 합성 경로를 생성한 뒤, Kolmogorov‑Smirnov(KS)와 Anderson‑Darling(AD) 검정으로 분포 적합도를 평가하고, 절대수익률 ACF‑MAE로 변동성 클러스터링을 정량화한다. 인‑샘플에서는 KS 97.6 %, AD 91.3 %를, 아웃‑오브‑샘플에서는 KS 94.4 %, AD 95.1 %를 달성했다. ACF‑MAE는 GARCH(1,1)보다 약간 높지만, 표준 HMM보다 현저히 낮아 변동성 지속성을 성공적으로 재현함을 보여준다.
베이스라인 비교에서는 GARCH(1,1)이 변동성 클러스터링을 가장 정확히 재현하지만, 꼬리 위험을 과소평가해 KS 통과율이 5.5 %에 불과함을 확인한다. 표준 HMM은 분포 적합도는 99 %에 가깝지만, 고변동성 상태 체류가 너무 짧아 ACF가 급격히 감소한다. 제안된 하이브리드 모델은 두 지표 사이에서 최적의 균형을 이루며, 특히 점프‑지속 메커니즘이 고변동성 상태의 체류 시간을 현실적으로 늘려 변동성 클러스터링을 부분적으로 복원한다.
다중 자산 확장으로는 Single‑Index Model(SIM)을 적용해 SPY의 합성 경로를 424개 개별 자산에 전파한다. 각 자산의 초과 수익률을 시장 요인과 잔차로 분해함으로써 교차섹션 상관구조를 유지하면서도 전체 파라미터 수를 크게 줄였다. 이는 포트폴리오 위험 시뮬레이션, 대규모 스트레스 테스트 등에 바로 활용 가능하도록 설계된 실용적 장점이다.
결론에서는 하이브리드 HMM이 기존 모델들의 단점을 보완하고, 해석 가능하면서도 계산 효율적인 합성 데이터 생성 프레임워크를 제공함을 강조한다. 향후 연구 방향으로는 상태 수와 점프‑지속 파라미터의 동적 최적화, 비정형 자산군(예: 암호화폐) 적용, 그리고 딥러닝 기반 사전학습 인코더와의 하이브리드 가능성을 제시한다.
원본 논문
고화질 논문을 불러오는 중입니다...
댓글 및 학술 토론
Loading comments...
의견 남기기