희소성·구조·스케일링·안정성: 계산선형대수의 통합 교과서

이 교과서는 1994년 7월에 브라질 레시피에서 개최된 IX Escola de Computação의 강의 자료를 정리한 것으로, 계산선형대수의 핵심 주제인 희소성, 구조, 스케일링, 안정성을 포괄적으로 다룬다. 서문에서는 이 분야가 데이터 과학, 공학, 최적화 등 다양한 분야에서 차지하는 중요성을 강조하고, 전통적인 선형 대수 루틴이 대규모 희소·구조 행렬에 어떻게 비효율적으로 작동하는지를 설명한다. 1장 ‘소개’에서는 책의 목표와 전반적인 흐름을 제시한다. 선형 시스템 Ax = b 의 해법을 네 가지 관점(희소성, 구조, 스케일링, 안정성)으로 나누어 설명하고, 이를 위해 그래프 이론, 하이퍼그래프, 병렬 처리 등 인접 분야와의 연계를 강조한다. 2장 ‘LU 인수분해’에서는 가우스 소거법, 피벗 전략, Doolittle·LU 분해의 복잡도와 메모리 요구량을 분석한다. 특히, 희소 행렬에 적용할 때 발생하는 ‘채우기’ 현상을 그래프 이론(순열 그래프, 엘리미네이션 트리)으로 모델링하고, 최소 채우기 순서를 찾는 휴리스틱(예: 최소 차단 순서, P3)과 그 이론적 근거를 제시한다. 3장 ‘그래프 이론 요약’은 기본적인 그래프 개념, 정점·간선, 순서 관계, 깊이 우선 탐색(DFS) 등을 정리하고, 코디얼 그래프와 허거 알고리즘 등 고급 개념을 간략히 소개한다. 이는 이후 장에서 행렬 구조를 그래프 형태로 표현하는 기반이 된다. 4장 ‘비대칭 희소 행렬 소거’에서는 로컬 채우기 최소화를 위한 프리포지션 기법, P3 휴리스틱, 그리고 전처리 단계에서의 행·열 재배치를 상세히 설명한다. 또한, 채우기 최소화를 위한 그래프 기반 순서 선택 방법을 제시한다. 5장 ‘대칭 희소 행렬 소거’는 대칭 행렬에 특화된 알고리즘을 다룬다. 엘리미네이션 트리, 코디얼 그래프, 그리고 차단 순서(분리자) 개념을 이용해 대칭 행렬의 효율적 소거와 메모리 절감을 설명한다. 6장 ‘구조적 행렬과 블록’에서는 블록 삼각형·블록 각형 구조를 정의하고, 하이퍼그래프를 이용한 블록 탐지와 블록 분해 방법을 제시한다. QR·Cholesky 분해를 블록 형태로 구현하는 방법과, 최소제곱 문제, 사각형 프로그래밍, 프로젝터 구성 등에의 적용을 상세히 서술한다. 7장 ‘병렬 처리’는 희소·구조 행렬 알고리즘을 병렬화하는 전략을 다룬다. 데이터 분산, 메모리 공유, 메시지 전달 모델을 비교하고, 블록 구조와 그래프 분할을 이용한 작업 부하 균형 및 통신 최소화 기법을 제시한다. 또한, 병렬 효율성을 평가하는 지표와 실제 구현 시 고려해야 할 하드웨어 특성을 논한다. 8장 ‘스케일링’은 부동소수점 연산에서 발생하는 스케일 차이와 그에 따른 오류를 다룬다. 스칼라 곱 오류, 행렬 스케일링(행·열 스케일링) 기법, 그리고 스케일링이 조건수에 미치는 영향을 분석한다. 9장 ‘안정성’에서는 노름, 조건수, 섭동 이론을 바탕으로 LU·QR·Cholesky 분해의 수치 안정성을 평가한다. 오류 전파 모델을 통해 알고리즘이 실제 계산에서 얼마나 정확한 해를 제공하는지 정량화하고, 안정성을 높이기 위한 피벗 전략과 스케일링 조합을 제시한다. 10장 ‘베이스 업데이트’는 행렬의 한 열(또는 행)만 교체될 때 역행렬을 효율적으로 갱신하는 방법을 다룬다. 이는 대규모 최적화, 네트워크 흐름, 실시간 시뮬레이션 등에서 반복적으로 시스템을 수정해야 하는 경우에 핵심적인 기술이다. 부록에서는 사용된 프로그래밍 언어(FORTRAN‑90, C/C++, MATLAB)와 실험 환경을 소개하고, 각 장별 연습 프로그램과 구현 예제를 제공한다. 전체적으로 이 교과서는 이론적 배경을 그래프·하이퍼그래프 모델링과 연결하고, 실제 대규모 과학·공학 문제에 적용 가능한 고성능 알고리즘과 병렬 구현 전략을 포괄적으로 제시한다.