양자 컴퓨터와 스펙트럼 방법: 머신러닝 혁신을 위한 새로운 길

** 이 논문은 머신러닝과 양자 컴퓨팅 사이의 연결 고리로서 ‘스펙트럼 방법’을 제시한다. 서론에서는 현재 양자 컴퓨터가 실용화 단계에 이르기 위해서는 암호 해독과 양자 시뮬레이션 외에 새로운 응용 분야가 필요하다고 지적한다. 특히 양자 머신러닝이 기존 선형대수 가속화, 양자 신경망, 양자 데이터 분석 등에서 ‘왜 양자?’라는 근본적인 질문에 충분히 답하지 못하고 있음을 비판한다. 본 논문의 핵심 가설은 머신러닝 모델이 푸리에 공간에서 부드러움(smoothness)이라는 형태의 단순성 편향을 갖는 것이 성공의 핵심이며, 이러한 편향을 직접 설계·조절하는 것이 스펙트럼 방법이다. 부드러운 함수는 고주파 성분이 급격히 감소하는 푸리에 스펙트럼을 가지며, 이는 모델이 입력 변동에 강건하고 일반화가 잘 된다는 의미다. 기존에는 컨볼루션 정리와 커널 트릭을 통해 간접적으로 푸리에 스펙트럼을 조절했지만, 고차원·대규모 모델에서는 계산 비용이 크게 증가한다. 양자 컴퓨팅이 제공하는 주요 도구는 양자 푸리에 변환(QFT)이다. QFT는 2ⁿ개의 진폭을 다루는 양자 상태를 O(n log n) 복잡도로 푸리에 변환할 수 있어, 고전적인 FFT보다 지수적인 속도 향상을 제공한다. 논문은 QFT를 이용해 생성 모델(예: |ψ_θ⟩)의 진폭을 푸리에 공간으로 옮긴 뒤, 양자 회로(위상 회전, 선택적 억제, 양자 필터링 등)로 특정 주파수 성분을 강화하거나 억제함으로써 직접적인 스무딩을 구현하는 방법을 상세히 설명한다. 이는 고전적인 방법으로는 불가능하거나 매우 비효율적인 “푸리에 계수 직접 조작”을 가능하게 만든다. 다음으로 양자 신경망(QNN)에서 입력 인코딩을 e^{i x_i H} 형태의 게이트로 수행하면, 각 입력 차원이 푸리에 기저 함수와 일대일 대응한다. 이러한 인코딩은 모델이 자동으로 푸리에 특징을 학습하도록 만들며, 기존 커널 트릭을 양자 수준에서 구현한다는 점에서 의미가 크다. 또한, 양자 회로를 이용해 푸리에 스펙트럼에 ‘양자 스펙트럼 편향’을 주입함으로써, 모델이 저주파 성분을 우선 학습하도록 유도하고, 고주파 성분은 억제한다. 논문은 그룹 푸리에 변환을 일반화하여, 순열군, 회전군, 대칭군 등 다양한 대칭 구조 위에서의 변환을 논의한다. 이는 이미지와 같은 유클리드 데이터뿐 아니라 그래프, 구면, 순열 데이터와 같은 비유클리드 도메인에 맞는 맞춤형 정규화를 설계할 수 있음을 시사한다. 예를 들어, 순열 데이터에 대해 푸리에 변환을 수행하면, 특정 순열 대칭에 민감한 주파수 성분을 선택적으로 억제함으로써 모델이 불필요한 복잡성을 피하도록 할 수 있다. 양자 알고리즘이 진폭의 푸리에 계수만을 직접 조작하고, 측정 확률(제곱값)에는 간접적인 영향을 미친다는 물리적 제약도 논의한다. 이는 낮은 차수 계수를 과도하게 억제하거나 고차수 성분을 완전히 제거하지 못하는 한계가 될 수 있다. 그러나 Born 규칙에 의해 샘플링된 확률 분포는 여전히 푸리에 스펙트럼의 전체 형태를 반영하므로, 적절한 양자 회로 설계와 샘플링 전략을 결합하면 이러한 제약을 오히려 모델의 일반화 능력을 강화하는 ‘특징’으로 활용할 수 있다. 논문의 마지막 부분에서는 현재까지 진행된 양자 스펙트럼 기반 연구들을 정리하고, 향후 연구 과제로 다음을 제시한다. (1) 대규모 양자 모델에서 부드러운 스펙트럼 편향을 구현하는 효율적인 회로 설계, (2) 기하학적 딥러닝과 결합한 그룹 기반 정규화, (3) 푸리에 변환을 진폭이 아닌 확률에 직접 적용할 수 있는 새로운 양자 측정 기법, (4) 고전적 커널 방법과 양자 푸리에 방법의 비교 및 하이브리드 접근법. 결론적으로, 스펙트럼 방법은 머신러닝 모델의 핵심 설계 원칙이며, 양자 컴퓨팅은 이 원칙을 직접적이고 효율적으로 구현할 수 있는 유일한 플랫폼으로서, “왜 양자?”라는 질문에 구체적이고 설득력 있는 답을 제공한다. **