통계 기반 진행형 전처리 행렬‑프리 GMRES 방법

본 논문은 고차원 스펙트럴 이산화에 의해 생성되는 시간 의존 편미분 방정식(PDE)의 선형 시스템을 해결하기 위한 새로운 전처리 기법을 제안한다. 전통적인 전처리 방법은 행렬 A = (I − Δt L) 을 명시적으로 구성하고 저장해야 하지만, 대규모 시뮬레이션(예: LES, DNS)에서는 메모리 한계로 인해 행렬‑프리 구현이 필수적이다. 행렬‑프리 환경에서는 GMRES와 같은 Krylov 서브스페이스 방법이 행렬‑벡터 곱만을 요구하지만, 전처리 행렬을 만들기 위해서는 행렬 원소에 대한 접근이 필요하다. 이를 해결하기 위해 저자는 GMRES 반복 과정에서 발생하는 모든 행렬‑벡터 곱을 기록한다. 구체적으로, i번째 곱에서 입력 벡터 xᵢ 를 Pₓ(:, i) 에, 결과 벡터 yᵢ = A xᵢ 를 Pᵧ(:, i) 에 저장한다. 이렇게 축적된 (Pₓ, Pᵧ) 데이터셋은 실제 행렬 A와의 선형 관계 Pᵧ ≈ A Pₓ 를 근사화하기 위한 관측값이 된다. 다음 단계에서는 다중 회귀 분석을 수행한다. 회귀 모델은 Pᵧ ≈ N Pₓ 이며, N 은 밴드형 대각 행렬로 제한한다. 저자는 d = 1(삼중 대각)인 경우를 기본으로 설정했으며, 각 행 i에 대해 주변 2d + 1 개의 열을 독립 변수로 사용해 최소제곱법으로 회귀 계수를 추정한다. 구체적인 절차는 알고리즘 2(MREP)에서 제시된다. 이 과정에서 행 i의 대각 원소 β₁ 과 인접 대각 원소들을 추정하고, 행렬 N 을 구성한다. 구축된 N 은 전처리 행렬로서 다음 시간 단계의 GMRES에 적용된다. 전처리된 시스템은 N⁻¹ A x = N⁻¹ b 의 형태가 되며, GMRES 내부에서 N⁻¹ 의 적용은 삼중 대각 행렬에 대한 Thomas 알고리즘을 이용해 O(n) 연산으로 수행된다. 이렇게 전처리 행렬을 매 시간 단계마다 갱신함으로써, 전처리 행렬의 정확도가 점진적으로 향상되는 ‘진행형 전처리’가 구현된다. 실험에서는 7‑대각 랜덤 행렬 A 를 사용해 n = 20, 80, 150, 350, 700 규모의 시스템을 테스트하였다. 결과는 다음과 같다. - n = 20인 경우, 전처리 적용 후 GMRES 반복 횟수가 40 → 30으로 약 25% 감소하였다. - n = 80, 150, 350에서도 비슷한 비율의 감소가 관찰되었으며, 특히 n = 350에서는 300 → 200 정도의 절감 효과가 있었다. - 가장 큰 규모인 n = 700에서는 반복 횟수가 400 → 200으로 50%가량 감소하였다. 이러한 결과는 전처리 행렬 N 이 원래 행렬 A 의 스펙트럼을 충분히 포착하면서도 연산 비용이 낮아 전체 솔버의 효율성을 크게 높인다는 것을 보여준다. 저자는 d > 1인 경우 더 넓은 밴드 행렬을 만들 수 있으나, 초기 회귀 모델 구축 비용이 O(n³)으로 급증하고, 전처리 시스템 자체가 삼중 대각이 아니게 되면 전처리 적용 비용이 크게 늘어나는 단점을 지적한다. 따라서 현재 구현에서는 d = 1이 실용적이며, 향후 연구에서는 전진 선택이나 후진 제거와 같은 모델 선택 기법을 도입해 최적의 회귀 변수를 자동으로 선정하는 방안을 제시한다. 결론적으로, 이 논문은 행렬‑프리 Krylov 서브스페이스 방법에 통계적 학습을 결합하여, 전처리 행렬을 실시간으로 구축하고 점진적으로 개선하는 새로운 패러다임을 제시한다. 이는 대규모 시뮬레이션에서 메모리 제약을 극복하면서도 수렴 속도를 크게 향상시킬 수 있는 실용적인 접근법으로 평가된다.