기하복잡도 이론 입문

본 논문은 두 부분으로 구성된 강의노트이며, 첫 번째 부분은 기하복잡도 이론(GCT)의 기본 구조를, 두 번째 부분은 GCT와 직접 연결되는 불변량 이론을 소개한다. 전체 흐름은 다음과 같다. 1. **GCT 개요와 플립 원리** - 복잡도 클래스 P와 NP를 각각 대수기하학적 객체인 클래스 다양체 χ_P, χ_NP 로 모델링한다. - GL_n(C) 작용을 갖는 G‑대수 구조를 통해 좌표환 R_P, R_NP 를 정의하고, 차수 d에 대한 동차 성분 R_P(d), R_NP(d) 를 유한 차원의 GL_n(C) 표현으로 본다. - Weyl의 완전 가분성 정리와 Schur–Weyl 이중성을 이용해 이들 표현을 직접 분해한다. - “방해체(obstruction)”는 R_NP(d) 에는 존재하지만 R_P(d) 에는 존재하지 않는 비가환 irreducible 표현으로 정의한다. 방해체가 모든 d에 대해 존재하면 χ_NP는 χ_P에 G‑부분다양체로 삽입될 수 없으며, 이는 NP⊄P 를 증명한다. 2. **플립 가설** - 전통적인 하한(“P≠NP”)을 부정적인 명제에서 시작해, 이를 “플립”을 통해 양적인 상한 문제(특정 구조 상수의 비소거 여부)로 전환한다. - 핵심 가설은 “방해체를 다항시간에 구성할 수 있다”는 것으로, 이는 하한을 증명하기 위한 역설적 전략이다. 3. **표현론 기초** - 유한군, 대칭군 S_n, 연속군 GL_n(C)의 기본 정의와 표준표현을 단계별로 전개한다. - 새로운 표현을 기존 표현으로부터 유도하는 방법(직접곱, 유도표현, 텐서곱 등)과, 컴팩트 군과 GL_n(C) 가 reductive 임을 증명한다. - Projection formula, character basis, 그리고 Weyl’s unitary trick 등을 통해 모든 유한 차원 표현이 완전 가분임을 보인다. 4. **대칭군 S_n 의 상세 구조** - Young diagram, Specht 모듈, 그리고 Frobenius 차원 공식을 이용해 S_n 의 irreducible 표현을 완전히 기술한다. - 이와 연계하여 Littlewood–Richardson 계수와 Kronecker 계수의 정의와 계산 방법을 소개한다. 5. **GL_n(C) 의 표현** - 최고 가중치 벡터와 Weyl’s character formula 를 이용해 GL_n(C) 의 표준표현을 구성한다. - 두 번째 접근법으로 Weyl’s unitary trick 을 사용해 복소수 경우를 실수 경우와 연결한다. 6. **Littlewood–Richardson 계수와 비소거 문제** - Littlewood–Richardson 계수의 비소거 여부를 결정하는 알고리즘을 제시하고, 이를 “stretching function” 과 연계한다. - O_n(C) 와 같은 실군에 대한 비소거 문제도 다루며, “saturation” 현상을 설명한다. 7. **플레시즘 문제** - GCT3, GCT5, GCT6, GCT7 에서 제기된 세 가지 핵심 문제( Littlewood–Richardson, Kronecker, Plethysm )를 정리하고, 각각이 GCT 에서 차지하는 역할을 설명한다. - “포화(saturation)”와 “양성 정수 계획법(positive integer programming)”을 통해 플레시즘 문제를 다항시간에 해결하려는 시도를 제시한다. 8. **기본 대수기하학** - 대수기하학의 기본 정의, 궤도 폐쇄(orbit closure), Grassmannian, 그리고 클래스 다양체의 정의를 제공한다. - 클래스 다양체는 복잡도 클래스와 직접 연결되며, 그 구조적 특성(예: 예외성, 차원, 정의 방정식) 을 논한다. 9. **방해체와 클래스 다양체** - 방해체의 정의, 존재 이유, 그리고 “왜 클래스 다양체가 예외적인가”에 대한 논의를 전개한다. - 두 번째 기본 정리(second fundamental theorem)와 Borel–Weil 정리를 이용해 방해체가 존재해야 함을 보인다. 10. **플립의 구체적 구현** - 플립을 통한 문제 전환 과정을 단계별로 도식화하고, 각 단계에서 필요한 수학적 도구를 정리한다. 11. **양자군과 양성 공식 가설** - Hopf 대수, q‑아날로그 유니터리 군 U_q, 그리고 표준·비표준 양자군을 정의한다. - 양자군의 표현론을 이용해 Littlewood–Richardson 규칙을 “양성 공식” 형태로 재구성하고, 이를 Kronecker 및 Plethysm 문제에 확장한다. - “크리스탈 기저(crystal basis)”와 “크리스탈 연산자”를 도입해 양자군 표현을 combinatorial하게 다룬다. 12. **불변량 이론 파트** - 두 번째 저자 Milind Sohoni 가 담당한 파트에서는 유한군, 대칭군 SL_n, 그리고 전반적인 불변량 이론을 다룬다. - Nagata 가설, Null-cone, destabilizing flag, 그리고 안정성(stability) 개념을 통해 GIT(Geometric Invariant Theory)와 연결한다. 전체적으로 이 강의노트는 GCT 를 이해하기 위한 수학적 토대를 폭넓게 제공한다. 복잡도 이론의 하한 문제를 대수기하학·표현론·양자군 이론으로 전환하는 “플립” 전략은 기존 복잡도 연구와는 전혀 다른 접근법이며, 방해체의 존재와 효율적 구성, 그리고 양성 공식 가설을 통해 최종적으로 “P≠NP” 를 증명하려는 장기 목표를 제시한다.