부분 SVD 계산을 위한 고성능 소프트웨어 패키지 소개

요약: 이 기술 보고서는 부분 SVD(싱귤러 값 분해) 계산을 위한 몇 가지 소프트웨어 패키지를 소개합니다. 여기에는 최적화된 PROPACK, 수정된 PROPACK (특정 임계값 이상의 싱귤러 값과 해당 싱귤러 벡터를 계산하도록 설계), 그리고 블록 랜크로스와 워밍 스타트(BLWS)가 포함됩니다. 현재 버전은 초안이며 곧 자세한 내용이 추가될 예정입니다.

1. 최적화된 PROPACK

PROPACK [3]은 핵 노름 최소화 문제를 해결하기 위해 부분 SVD 계산을 수행하는 데 널리 사용되는 도구입니다. 저희는 PROPACK을 최적화하여 속도를 15%에서 20% 향상시켰습니다. 최적화는 주로 랜크로스 절차의 그람-슈미트 직교화를 재구성함으로써 달성되었습니다. 코드는 다음 링크에서 다운로드 가능합니다: optPROPACK.zip

2. 수정된 PROPACK

현재의 PROPACK [3]은 지정된 수의 주성분 싱귤러 값과 벡터만 출력할 수 있습니다. 그러나 핵 노름 최소화 문제를 해결하는 경우, 종종 싱귤러 값 임계값 절단 [1]이 필요합니다. 이는 주성분 싱귤러 값이 특정 임계값보다 큰 경우를 요구합니다. 따라서 저희는 PROPACK을 수정하여 이러한 기능을 제공했습니다. 알고리즘 1 [2]은 이 접근 방식을 보여줍니다. 코드는 다음 링크에서 다운로드 가능합니다: ThresholdLANSVD.zip

3. 블록 랜크로스와 워밍 스타트 (BLWS)

핵 노름 최소화 문제를 해결할 때, 부분 SVD를 여러 번 계산해야 합니다. 저희는 각 반복에서 계산을 단축하기 위해 BLWS 기법을 제안합니다. 이 방법은 매 반복마다 행렬을 재계산하는 대신 이전 결과에 의존하여 효율성을 향상시킵니다. 코드는 다음 링크에서 다운로드 가능합니다: BLWS.zip

BLWS 패키지는 BL EVD (eigenvalue decomposition) 및 BL SVD (singular value decomposition)를 위한 구현과 RPCA(저등급 행렬 복원) 문제를 해결하기 위한 BL SVD의 예제 사용을 포함합니다.

참고문헌:

[1] J. Cai, E. Cand`es, and Z. Shen. A singular value thresholding algorithm for matrix completion. preprint, code available at http://svt.caltech.edu/code.html , Sep 2008.

[2] M. Chen. Algorithms and implementations of matrix reconstruction (in Chinese). Master Thesis, available at http://www.cis.pku.edu.cn/faculty/vision/zlin/2010-MatrixReconstruction.pdf , 2010.

[3] R. M. Larsen. Lanczos bidiagonalization with partial reorthogonalization. Department of Computer Science, Aarhus University, Technical report, DAIMI PB-357, code available at http://soi.stanford.edu/~rmunk/PROPACK/ , Sep 1998.

[4] Z. Lin, M. Chen, and Y. Ma. The augmented Lagrange multiplier method for exact recovery of corrupted low-rank matrix. Technical Report UI

번역된 학술 텍스트:

…(본문이 길어 생략되었습니다. 전체 내용은 원문 PDF를 참고하세요.)…