이 논문은 대용량 행렬의 효율적인 표현과 압축 방법으로서 밴드 하우스홀더 분해를 제안한다. 특히, *m* ≥ *n*인 경우에 대해, 이 논문은 하우스홀더 QR 알고리즘을 통해 직교 행렬 *U*를 *n(m - (n + 1)/2)* 개의 부동 소수점 연산으로 표현하는 방법을 제시한다. 그러나 실제 응용에서는 *U*의 범위만 중요하며, 이를 위해 논문은 *G*와 *B*라는 두 행렬로 구성된 새로운 표현 방식을 제안한다. 이 표현은 *n(m - n)* 개의 부동 소수점 수로 저장 가능하다는 점에서 효율적이다.
이 논문은 대용량 행렬의 압축과 표현에 대한 새로운 접근법을 제시하며, 특히 하우스홀더 분해를 이용한 방법론을 강조한다. 이는 디지털 캐릭터의 블렌드 셰이프 저장 등 다양한 응용 분야에서 효율적인 데이터 처리와 저장 공간 절약에 기여할 수 있다.
## 밴드 하우스홀더 분해: 효율적인 대용량 행렬 표현 및 압축
만약 m ≥ n이라면, 하우스홀더 QR 알고리즘은 m × n 직교 행렬 U를 n개의 하우스홀더 반사(reflection)의 곱으로 표현한다. 이는 총 n(m - (n + 1)/2) 개의 부동 소수점 연산을 필요로 한다.[1, 챕터 5]. 그러나 일부 응용 프로그램에서는 U의 범위만 중요하다. 동일한 범위를 가지는 다른 직교 행렬은 동등하다. 예를 들어, [2]에서 소개한 계층적 반별 표현(hierarchically semiseparable representation)은 큰 대각 요소가 있는 행렬을 압축하기 위해 나무 구조의 직교 행렬을 사용한다. *Rm*의 n-차원 부분 공간이 *Grn(m)*라는 차원 *n(m - n)*의 그라프만(Grassmannian) 만을 형성하므로, 올바른 범위를 가지는 직교 행렬은 *n(m - n)*개의 부동 소수점 수로 표현될 수 있다고 기대된다. 다음 정리가 이러한 표현을 제공한다:
여기서 B는 *Rn*의 제곱 행렬이고, G는 n개의 하우스홀더 반사의 곱이다. 각 *vi*는 m - n + 1 개의 비영 요소를 가지며, 그 중 첫 번째 요소는 1이다. 따라서 G는 *n(m - n)*개의 부동 소수점으로 저장될 수 있다. A가 완전 행렬 순위(full rank)일 경우, G와 B는 고유하다. 그러나 하우스홀더 벡터 *vi*는 고유하지 않을 수 있다.
증명. (1)은 표준 하우스홀더 QR 알고리즘에 의해 생성된 인수분해 형태와 동일하다. 단, 각 *vi*의 마지막 부분에 있는 0들은 A의 극단 하삼각 부분(lower triangle part i > j + m - n)에 해당하는 회전된 요소들이다. 이러한 0들을 도입하기 위해, A를 180도 회전(flip)하여 *A♦*를 만들고, *A♦*에 LQ 분해를 수행한다.
하우스홀더 QR 알고리즘은 *vi*를 *ei*와 회전된 행렬의 i번째 열의 선형 결합으로 생성하며, 각 벡터의 첫 번째 요소는 1로 선택될 수 있다.[1, 챕터 5]. 따라서 하우스홀더 QR 분해는 올바른 대각 밴드 구조를 가진 G를 생성한다. 우리의 최종 인수분해는 다음과 같다:
이 과정은 그림 1에 시각적으로 표현되어 있다. G와 B의 고유성은 QR 분해의 고유성과 동일하다.[1, 챕터 5]. 또한 B는 A가 직교 행렬일 때 항상 직교(orthogonal) 행렬이다.
기본 연산인 행렬 곱과 하우스홀더 QR 분해만 사용하므로, G의 계산은 안정적이며, 복잡도는 O(mn2) 이다. 일반적으로 βi = 2/(viT* vi)는 사전에 계산되고 저장되어 추가로 n개의 부동 소수점 공간을 필요로 한다. βi가 주어진 후에는 단일 하우스홀더 반사는 4(m - n) + 2개의 연산을, Gx 또는 GTy는 4n(m - n) + 2n 개의 연산을 필요로 한다. 블록 크기를 b로 설정하면, [3]에서 소개한 I - VT V 표현을 사용하여 b개의 하우스홀더 반사를 효율적으로 계산할 수 있지만, 이는 *b(m - n)*의 추가 저장 공간과 연산을 필요로 한다. 불행히도, 정리 1에서 제시된 밴드 하우스홀더 표현은 m - n이 작은 대용량 부분 공간에는 비효율적이다. 이를 해결하기 위해, 다음과 같은 표현을 사용할 수 있다:
정리 2. m ≥ n일 때, 어떤 A ∈ *Rm×n*는 다음과 같이 인수분해될 수 있다:
여기서 B는 *Rn×n*의 제곱 행렬이고, G는 m - n개의 하우스홀더 반사의 밴드 제품으로, 각 벡터는 1을 제외한 n + 1 개의 비영 요소를 가지며 (정리 1과 동일하게 교환된 m - n과 n), 저장 공간은 *n(m - n)*개의 부동 소수점으로 제한된다.
증명. A에 QR 분해를 적용하여 다음과 같이 얻는다:
여기서 *U1*의 열 공간은 A의 범위를 포함하며, *U2*는 나머지 공간을 나타낸다.
그러면:
정리 1을 m - n ≥ n에 적용하고, 정리 2를 m - n < n에 적용하면, 결과적으로 생성된 G는 최대 m/2개의 하우스홀더 벡터를 포함하며, 각 벡터는 최소 m/2 + 1 개의 비영 요소를 갖는다. 특히, 블록 크기가 b인 I - VT V 표현은 *b(m, n)*의 경우 언제나 효율적이다.
밴드 하우스홀더 분해의 모티베이션 응용 프로그램 중 하나는 계층적 반별 표현(HSS)에서 대용량 행렬의 압축이다. 이러한 표현을 사용하여 애니메이션 캐릭터의 블렌드 셰이프(blend shapes)를 저장하면, 저장 공간을 45.7% 감소시키고, 기존 방법에 비해 29.5%의 하우스홀더 저장 공간을 절약할 수 있다.
디지털 캐릭터를 위한 블렌드 셰이프 행렬의 개수에 대해 설명하겠습니다. 우리는 주로 밀집된 큰 행렬로 시작하는데, 각 열은 디지털 캐릭터 메시의 자세를 나타냅니다. 예를 들어, 42,391개의 정점과 730개의 블렌드 셰이프를 가진 얼굴은 그림 2에 표시되어 있습니다. 원본 행렬은 단일 정밀도로 348MB의 저장 공간을 차지합니다. 이를 줄이기 위해, 우리는 행렬을 회전과 밀집 블록의 나무 형태로 표현하는 손실적 계층적 반분리(HSS) 표현을 계산합니다 [2]. HSS 표현은 회전을 밀집 형태로 저장할 경우 46.8MB의 저장 공간이 필요합니다. Householder 형태로 변경하면 저장 비용이 36.0MB (밀집 형태의 77.7%)로 줄어듭니다. 밴드 Householder 형태로 더 줄이면 25.4MB (밀집 형태의 54.3%)까지 가능합니다. Intel Xeon 2.8GHz 8코어 머신에서, HSS 표현과 벡터를 곱하는 비용은 밀집 저장 및 최적화된 BLAS를 사용할 경우 11.2ms이며, 밴드 Householder 저장 및 수작업 비벡터화 C 코드를 사용할 경우 10.7ms입니다. 밴드 Householder 사례의 메모리 트래픽이 밀집 사례의 절반 정도이므로, 적절한 벡터화가 이루어지면 이 비교는 크게 향상될 것으로 예상됩니다.
이 글은 ArXiv의 공개 자료를 바탕으로 AI가 자동 번역 및 요약한 내용입니다.
저작권은 원저자에게 있으며, 인류 지식 발전에 기여한 연구자분들께 감사드립니다.
