교대 투영으로 그라스만 다양체 최적 포장 설계

본 논문은 Grassmannian 다양체와 프로젝트 공간에서 서브스페이스 포장을 최적화하기 위한 새로운 수치적 접근법을 제시한다. 포장 문제는 “주어진 N개의 서브스페이스가 서로 가능한 한 멀리 떨어지도록 배치하는 것”으로 정의되며, 이는 다양한 응용—양자 컴퓨팅, 무선 통신, 오류 정정 코드—에서 핵심적인 역할을 한다. 전통적으로 이러한 문제는 고차원 비볼록 최적화 문제로 간주되어 해답을 찾기가 어려웠으며, 기존 연구는 주로 선형 프로그래밍, 구체적인 대수적 구조 이용, 혹은 작은 차원에 대한 전수 조사에 의존했다. 논문은 먼저 포장 문제를 “구조적 제약과 스펙트럼 제약을 동시에 만족하는 블록 Gram 행렬 G를 찾는 문제”로 변환한다. 여기서 구조적 제약은 각 서브스페이스의 정규화된 기저 행렬 X_n이 X_n* X_n = I_K임을 보장하는 것으로, 이는 G의 대각 블록이 단위 행렬이어야 함을 의미한다. 스펙트럼 제약은 G가 양의 준정부호이며, 그 랭크가 전체 차원 d를 초과하지 않아야 함을 요구한다. 이 두 제약은 각각 폐집합이지만, 스펙트럼 제약은 비볼록성이 있어 기존 교대 투영 수렴 이론을 직접 적용하기 어렵다. 알고리즘은 다음과 같은 단계로 구성된다. (1) 무작위로 N개의 서브스페이스를 생성하고, 중복을 제거해 초기 구성 X를 만든다. (2) 현재 X에 대해 Gram 행렬 G = X* X를 계산한다. (3) 구조적 투영: G의 모든 대각 블록을 단위 행렬로 강제하고, 비대각 블록을 그대로 유지한다. (4) 스펙트럼 투영: 고유값 분해를 수행해 G의 고유값을 조정한다. 구체적으로, 고유값이 d보다 큰 경우 이를 d로 제한하고, 음수 고유값은 0으로 클리핑한다. 이렇게 수정된 G는 다시 양의 준정부호와 랭크 제한을 만족한다. (5) 수정된 G를 이용해 새로운 X를 복원한다. 이는 G의 Cholesky 분해 혹은 SVD를 통해 각 블록을 정규화된 기저 행렬로 분해함으로써 수행된다. (6) 위 과정을 수렴할 때까지 반복한다. 논문은 네 가지 주요 거리 척도—Chordal, Spectral, Fubini‑Study, Geodesic—에 대해 이 알고리즘을 적용하고, 각 척도에 맞는 목표 함수를 정의한다. Chordal 거리의 경우, 두 서브스페이스 사이의 거리 squared는 ‖S* T‖_F^2의 보완값으로 표현되며, 이는 Gram 행렬의 Frobenius norm과 직접 연결된다. Spectral 거리는 최소 특잇값(= cos θ_min)의 제곱근 형태로 정의되어, 최소 고유값을 크게 만드는 것이 목표가 된다. Fubini‑Study 거리는 |det S* T|의 절댓값을 이용해 각 서브스페이스 쌍 사이의 각도를 측정한다. Geodesic 거리는 주축 각도의 제곱합을 사용하지만, 실험에서는 다른 세 척도에 비해 별다른 장점을 보이지 않아 상세히 다루지 않는다. 실험에서는 다양한 (N, K, d) 조합에 대해 1000회 이상의 무작위 초기화와 교대 투영을 수행했다. 결과는 다음과 같다. (1) Chordal 거리 기준으로, (N = 16, K = 2, d = 4) 경우 기존 최적값 0.7071에 근접하거나 약간 초과하는 최소 거리를 얻었다. (2) Spectral 거리에서는 특히 K = 1 (프로젝티브 공간)에서 균등한 각도 배치를 달성했으며, 이는 “equi‑isoclinic” 구성을 재현한다. (3) 복소수 Grassmannian (F = ℂ)에서는 기존 실수 전용 표에 없는 새로운 포장들을 발견했으며, 이들 중 일부는 이론적 상한인 “Welch bound”에 99.5% 근접했다. (4) 무선 통신 시뮬레이션에서는 Fubini‑Study 거리 기반 코드북이 전통적인 Grassmannian 코드보다 비트 오류율(BER)에서 0.2 dB 정도 향상되는 것을 확인했다. 알고리즘의 한계도 명시한다. 서브스페이스 수 N이 d·K를 크게 초과하거나 차원 d가 50 이상으로 커지면, 교대 투영의 수렴 속도가 급격히 느려지고, 종종 지역 최적점에 머무른다. 또한, 스펙트럼 투영 단계에서 고유값 클리핑이 과도하면 최적성이 크게 손상될 수 있다. 이러한 문제를 해결하기 위해 저자들은 가변 단계 크기, 모멘텀 기법, 그리고 비볼록 제약에 대한 사전 정규화 전략을 제안한다. 결론적으로, 본 연구는 교대 투영이라는 비교적 단순한 반복 알고리즘이 Grassmannian 포장 문제에 강력하고 유연한 도구가 될 수 있음을 입증한다. 구조적 제약이 명확히 정의된 경우, 스펙트럼 제약을 효율적으로 처리함으로써 다양한 거리 척도와 복소/실수 경우에 적용 가능한 통합 프레임워크를 제공한다. 향후 연구는 (i) 대규모 문제에 대한 병렬 구현, (ii) 비볼록 제약 집합에 대한 수학적 수렴 보장, (iii) 실제 통신 시스템에 대한 실시간 코드북 업데이트 등으로 확장될 수 있다.