재귀함수 시뮬레이션 정밀도 향상을 위한 양방향 반올림 평균법

본 논문은 IEEE 754‑2008 표준이 정의한 부동소수점 연산에서 발생하는 반올림 오차를 활용해 재귀함수 시뮬레이션의 정밀도를 향상시키는 새로운 방법을 제시한다. 연구 배경으로는 혼돈 시스템, 특히 로지스틱 맵과 같은 비선형 이산 지도에서 수치 오차가 급격히 누적되어 실제 동역학을 왜곡한다는 점을 들었다. 기존에는 하드웨어 성능 향상, 병렬 연산, 혹은 고정밀 소프트웨어(예: arbitrary‑precision arithmetic)를 이용해 문제를 완화하려 했지만, 이러한 접근은 계산 비용이 크게 증가하거나 구현이 복잡하다는 단점이 있다. 논문은 먼저 재귀함수 \(x_{n}=f(x_{n-1})\) 의 수치 구현을 “pseudo‑orbit” \(\{\hat{x}_{i,n}\}\) 으로 정의하고, 실제 궤도와의 차이를 \(\xi_{i,n}\) 으로 표현한다. 여기서 반올림 오차가 균등하게 분포한다는 가정 하에, 두 개의 반올림 모드—양의 무한대로 반올림(‘round +’)과 음의 무한대로 반올림(‘round –’)—을 각각 적용해 얻은 값 \(\hat{x}^{+}_{i,n}\) 와 \(\hat{x}^{-}_{i,n}\) 을 평균하면 새로운 근사값 \(\hat{x}_{j,n}\) 을 얻을 수 있다. Lemma 1에서는 이 평균값이 기존 ‘round‑to‑nearest’ 방식보다 기대값 기준에서 반올림 오차가 절반으로 감소한다는 수학적 증명을 제공한다. 구체적으로, 두 오차 \(\delta^{+}_{i,n}\) 와 \(\delta^{-}_{i,n}\) 가 독립적인 균등분포라면 평균을 취함으로써 분산이 \(1/2\) 로 감소하고, 따라서 전체 오차 \(\delta_{j,n}\) 은 \(\xi_{i,n}\) 보다 작아진다. 제안된 알고리즘(Algorithm 1)은 다음과 같은 흐름을 가진다. 초기값 \(\hat{x}_{i,0}\) 에 대해 ‘round –’와 ‘round +’를 각각 적용하고 평균을 구해 \(\hat{x}_{j,0}\) 을 만든다. 이후 매 반복 단계에서 현재 값에 함수 \(f\) 를 적용하고, 다시 두 라운딩 모드로 반올림한 뒤 평균을 취한다. 이 과정에서 ‘round –’와 ‘round +’ 결과를 각각 \(\hat{x}^{-}_{i,n}\) 와 \(\hat{x}^{+}_{i,n}\) 에 저장하고, 평균값을 \(\hat{x}_{j,n}\) 에 할당한다. 구현은 MATLAB R2016a에서 수행했으며, 고정밀(1000 자리) VPA 결과와 비교하였다. 실험은 로지스틱 맵 \(x_{n+1}=r x_n (1-x_n)\) 을 대상으로 세 가지 시나리오를 제시한다. 첫 번째 시나리오(\(x_0=1/3.9,\ r=3.9\))에서는 기존 ‘round‑to‑nearest’가 혼돈처럼 보이는 궤도를 생성하지만, 제안 방법은 정확히 고정점 \(29/39\) (≈0.743589743589744)으로 수렴한다. 이는 표 1에 10번 반복까지의 값과 16진수 표현을 통해 확인할 수 있다. 두 번째 시나리오(\(x_0=0.01,\ r=3.9\))에서는 초기 오차가 다소 크게 시작하지만, 5~10번째 반복 이후 평균 오차가 기존 방법보다 현저히 낮아진다. 그림 1은 로그 스케일로 두 방법의 오류 전파를 비교하며, 제안 방법이 장기적으로 오차를 억제함을 보여준다. 세 번째 시나리오에서는 세 가지 서로 다른 초기조건·파라미터 조합(\((0.1,4.2), (0.2,4), (0.41,3.85)\))에 대해 10번 반복까지의 \(\xi_{i,n}\)와 \(\delta_{j,n}\)을 표 2에 정리하였다. 전반적으로 \(\delta_{j,n}\)이 \(\xi_{i,n}\)보다 작아지는 경향이 일관되게 나타났으며, 이는 제안 방법이 다양한 파라미터 설정에서도 오류 감소 효과를 유지함을 의미한다. 논문의 결론에서는 제안 방법이 “반올림 오차의 확률적 성질을 이용한 평균화”라는 간단하지만 효과적인 전략임을 강조한다. 연산량이 두 배가 되지만, 현대 CPU와 MATLAB 환경에서는 실행 시간 증가가 미미하다고 보고한다. 또한, 이 방법은 로지스틱 맵뿐 아니라 일반적인 재귀함수, 차분 방정식, 그리고 연속 시스템을 이산화한 경우에도 적용 가능하다고 주장한다. 향후 연구 과제로는 구간 연장 기법과 다른 라운딩 전략(예: stochastic rounding)과의 결합, 그리고 하드웨어 수준에서 라운딩 모드 전환 비용을 최소화하는 설계가 제시된다. 최종적으로, 본 연구는 수치 시뮬레이션에서 발생하는 미세한 반올림 오차를 활용해 정확도를 향상시키는 새로운 패러다임을 제시하며, 특히 혼돈 시스템과 같이 민감도가 높은 분야에서 실용적인 대안을 제공한다.