천문·지오데시 시계열 분석을 위한 앨런 분산의 확장과 활용

앨런 분산(AVAR)은 원래 주파수 표준의 안정성을 평가하기 위해 1960년대에 고안된 통계량으로, 측정값 y_i의 연속 차이의 제곱 평균을 평균 구간 τ에 따라 계산한다. 고전적인 정의식(1)은 모든 측정값이 동일한 정확도를 가진다고 가정하지만, 천문·지오데시 분야에서는 관측마다 측정 오차가 크게 다르고, 좌표와 같은 다차원 벡터 형태의 데이터가 일반적이다. 이러한 현실적 제약을 극복하기 위해 저자는 두 가지 주요 확장을 제안한다. 첫 번째는 가중 평균 차이를 이용한 가중 AVAR(Weighted AVAR)이다. 각 측정값 y_i에 대응하는 표준편차 s_i를 이용해 가중치 p_i를 정의하고, 식(2)와 (3)에서와 같이 가중 차이의 제곱합을 평균함으로써 WADEV(Weighted Allan Deviation)를 도출한다. 이 방법은 측정 오차가 큰 관측치가 전체 분산에 과도하게 기여하는 것을 방지하고, 특히 외란(outlier) 상황에서 보다 안정적인 잡음 추정치를 제공한다. 두 번째는 다차원 데이터를 동시에 처리할 수 있는 다차원 가중 AVAR이다. k 차원 측정값 y_i와 그 오차 s_i를 사용해 유클리드 거리 d_i를 정의하고, 가중치 p_i를 거리와 오차의 함수(식 5)로 설정한다. 이렇게 정의된 WMAVAR(Weighted Multidimensional AVAR)과 그 제곱근인 WMADEV는 각 차원 간 상관관계를 자연스럽게 반영한다. 특히, 두 연속 측정값이 거의 동일한 경우(거리 d_i≈0) 발생할 수 있는 가중치 분모의 특이점을 회피하기 위해 경험적으로 도출된 식(5)를 사용한다. 논문은 이러한 확장된 AVAR을 이용해 시계열 잡음의 스펙트럼 특성을 분석한다. 잡음 스펙트럼을 S(f)=S_0(f/f_0)^k 형태의 파워‑법칙으로 가정하고, 로그‑로그 플롯에서 τ와 σ^2(τ) 사이의 기울기 μ를 구한다. μ값에 따라 백색 잡음(μ=−0.5), 플리커 잡음(μ=0), 랜덤 워크(μ=0.5) 등 세 가지 기본 유형을 구분한다(식 8). 또한, Hurst 지수를 통해 시계열의 장기 의존성 및 프랙탈 구조를 정량화한다. 실제 적용 사례는 다음과 같다. 1) **지구 자전 파라미터**: IERS에서 결합된 Earth Rotation Parameters(EOP) 시계열에 WADEV를 적용해 각 원본 시계열의 품질을 평가하고, 2005년 이후 알고리즘이 변경되기 전까지 AVAR 기반 가중 결합이 표준으로 채택되었다. 2) **천구극 좌표**: VLBI 관측에서 얻은 천구극 X, Y 좌표에 2‑차원 WADEV를 적용해 두 카탈로그(ICRF‑Ext.2와 RSC(PUL)07C02)의 잡음 수준을 비교하였다. 결과는 RSC 카탈로그가 약 5–8 μas 정도 더 낮은 WADEV 값을 보여, 카탈로그 결합 방법의 우수성을 입증한다. 3) **관측소 좌표**: 유럽 GPS 네트워크(EUREF)와 VLBI, SLR, DORIS 등 다양한 기술의 관측소 좌표 시계열에 AVAR을 적용해 각 처리 방법의 랜덤 오류를 정량화하였다. 특히, AVAR은 장기 트렌드와 급격한 점프에 민감하지 않아 순수한 잡음 성분을 추출하는 데 유리하였다. 4) **전파원 위치**: ICRF2 구축 과정에서 15개 분석센터가 제공한 32~850개 전파원의 좌표 시계열을 대상으로 RMS와 ADEV를 비교하였다. 대부분의 경우 두 지표가 비슷했지만, 시스템적 변동이 큰 경우 RMS가 과대평가되는 반면 ADEV는 실제 잡음 수준을 더 정확히 반영하였다. 예시로 전파원 0528+134의 두 시계열(usn000d, usn001a)을 비교했을 때, ADEV 차이가 RMS 차이보다 뚜렷하게 나타났다. 이러한 사례들을 통해 저자는 WMAVAR이 비균등·다차원 시계열에 대한 잡음 분석에 있어 기존 RMS 기반 방법보다 뛰어난 특성을 가지고 있음을 강조한다. 특히, AVAR은 장기 변동, 트렌드, 급격한 점프에 거의 영향을 받지 않으며, 잡음 스펙트럼을 직접 추정함으로써 시계열 모델링과 오류 예측에 필수적인 정보를 제공한다. 마지막으로, 잡음 스펙트럼이 최소 수백 개 이상의 관측점으로 구성된 시계열에서만 신뢰성 있게 추정될 수 있음을 언급하고, 계절성·주기성 성분은 사전에 제거한 후 AVAR 분석을 수행할 것을 권고한다. 전체적으로, 본 논문은 AVAR의 이론적 기반을 확장하고, 천문·지오데시 분야의 실제 데이터에 적용함으로써 데이터 품질 평가, 모델 선택, 그리고 장기 예측에 있어 새로운 표준 도구로 자리매김할 가능성을 제시한다.