불정형 특이 대칭 시스템을 위한 MINRES QLP 방법

본 논문은 대칭 행렬 A가 정칙이 아니거나 특이한 경우에도 안정적으로 최소‑잔차와 최소‑길이(의사역) 해를 동시에 구할 수 있는 새로운 Krylov 서브스페이스 방법인 MINRES‑QLP 를 제안한다. 서론에서는 기존의 CG, SYMMLP, MINRES 가 각각 정칙·양정정(positive‑definite) 대칭 시스템에 대해 뛰어난 성능을 보이지만, 불정형 혹은 특이 시스템에 적용될 때 발생하는 문제점을 지적한다. CG 는 제로 나눗셈으로 인해 조기 붕괴하고, SYMMLP 는 해가 널벡터 방향으로 발산하며, MINRES 는 최소 잔차 해는 제공하지만 최소‑길이 해를 보장하지 못한다는 점을 구체적인 정리와 예시를 통해 설명한다. 다음으로 Lanczos 과정의 기본 성질을 정리한다. Lanczos 과정은 초기 벡터 b 로부터 정규 직교 기저 V_k 와 삼대각 행렬 T_k 를 생성한다. T_k 는 k < ℓ (ℓ 은 Lanczos 종료 단계) 에서는 전 열이 선형 독립이며, A 가 특이하더라도 T_k 가 순위 결핍이 되는 경우는 드물다. 그러나 최종 T_ℓ 가 순위 결핍이면 기존 MINRES 가 해결하지 못하는 최소‑길이 해 문제에 직면한다. MINRES 알고리즘은 T_k 에 대한 QR 분해(Q_k · R_k) 를 이용해 잔차 ‖r_k‖₂ 를 최소화한다. 이때 R_k 가 상삼각 형태이며, y_k = R_k⁻¹ t_k 로부터 x_k = V_k y_k 를 얻는다. T_ℓ 가 비특이이면 MINRES 가 정확히 Ax = b 를 만족하는 최소‑길이 해 x† 를 반환한다(정리 3.1). 그러나 T_ℓ 가 특이하면 MINRES 는 마지막 y_ℓ 의 마지막 성분을 0 으로 강제하고, 결과적으로 최소‑잔차 LS 해를 반환하지만 최소‑길이 해는 아니다(정리 3.2). 이 한계를 극복하기 위해 저자들은 QLP 분해를 도입한다. QLP 분해는 먼저 A 에 대해 QR 분해를 수행하고, 얻어진 R 에 대해 다시 QR 분해(열 교환 포함)를 적용해 L 형태의 삼대각 행렬을 만든다. Stewart(1999) 의 결과에 따르면 L 의 대각 원소(L‑값)는 R 의 대각 원소(R‑값)보다 특이값에 더 가깝게 근사한다. 따라서 T_k 에 QLP 분해를 적용하면, 순위 결핍인 경우에도 최소‑길이 해 y† 를 정확히 구할 수 있다. MINRES‑QLP 알고리즘은 기존 MINRES 와 동일한 Lanczos 반복 구조를 유지하면서, 매 단계마다 현재까지 형성된 T_k 에 대해 오른쪽 Givens 회전(Q) 과 왼쪽 회전(L) 을 적용해 QLP 형태로 변환한다. 이때 추가적인 저장공간은 거의 필요 없으며, 하삼각 시스템을 푸는 단일 역방향 대입만으로 x_k 를 업데이트한다. 또한, 새로운 정규화 및 정지 기준을 도입한다. 특이 시스템에서는 ‖A r_k‖₂ 가 중요한 지표가 되므로, 논문은 ‖A r_k‖₂ 와 ‖A x_k‖₂ 를 재귀적으로 계산하는 식을 제시하고, 이를 기반으로 상대·절대 오차 기준을 정의한다. 수치 실험에서는 (1) 조건수가 10⁶~10⁸ 수준인 난이도 높은 대칭 행렬, (2) 완전 특이 행렬(예: 대각에 0 이 포함된 경우) 두 가지 케이스를 테스트한다. 결과는 MINRES‑QLP 가 동일한 반복 횟수에서 MINRES 보다 ‖x‑x†‖₂ 와 ‖r_k‖₂ 가 현저히 작으며, 특히 ‖A r_k‖₂ 가 거의 0 에 수렴함을 보여준다. 전처리(프리컨디셔닝) 버전도 제시되어, 대규모 희소 시스템에 적용 가능함을 증명한다. 결론적으로, 이 연구는 특이·불정형 대칭 시스템에 대한 기존 Krylov 방법들의 한계를 정확히 규명하고, QLP 분해를 활용한 MINRES‑QLP 라는 새로운 알고리즘을 설계·이론·실험적으로 검증함으로써, 최소‑잔차와 최소‑길이 해를 동시에 얻을 수 있는 실용적인 해법을 제공한다.