일반 경우 복잡도와 일방 함수

이 논문은 일반 경우 복잡도(generic case complexity)라는 비교적 새로운 이론적 프레임워크를 암호학 분야에 도입함으로써, “대부분의 입력”에 대해 효율적으로 동작하는 알고리즘을 직관적이고 간단하게 분석하는 방법을 제시한다. 일반 경우 복잡도는 전통적인 평균‑케이스 복잡도와 달리, 입력 집합을 구형(spherical) 혹은 구( ball) 단위로 층화(stratify)하고, 각 층에 균등 분포를 부여하여 점근적 밀도(asymptotic density)를 정의한다. 점근적 밀도가 1에 수렴하는 집합을 “일반(generic)”이라 하고, 0에 수렴하는 집합을 “무시(negligible)”라 부른다. 특히, “초다항 수렴(super‑polynomial convergence)”을 요구함으로써, 일반 집합이 차지하는 비율이 매우 빠르게 1에 접근함을 보장한다. 이러한 정의는 알고리즘이 “대부분의 입력”에 대해 빠르게 동작하고, “소수의 악의적 입력”에 대해서는 실패하거나 무시 가능한 성능을 보이는 상황을 정량화한다. 논문은 먼저 일반 경우 복잡도의 배경을 설명한다. 그룹 이론에서의 단어 문제와 공액 문제, 그리고 Halting 문제와 같은 전통적으로 결정 불가능하거나 NP‑complete인 문제들이 일반 경우에는 선형 시간 혹은 다항 시간에 해결 가능함을 예시로 든다. 이는 “대부분의 입력에 대해서는 쉬운” 현상이 존재함을 보여주며, 이러한 현상이 암호학적 가정에 활용될 여지를 제시한다. 다음으로 일방 함수(one‑way function)의 전통적 정의를 재검토한다. 다이페와 헬만은 “거의 모든” 출력에 대해 역함수 찾기가 계산적으로 불가능함을 요구했으며, 이는 전체 입력에 대한 평균 성공 확률을 기반으로 한다. 그러나 평균 기반 정의는 특정 입력 집합이 작아도 전체 확률을 크게 낮출 수 있어, 실제 보안 강도를 정확히 반영하지 못한다는 한계가 있다. 이를 보완하기 위해 저자는 “일반적으로 강한(generically strong) 일방 함수”와 “일반적으로 약한(generically weak) 일방 함수”라는 두 가지 새로운 정의를 제시한다. 1. **일반적으로 강한 일방 함수 (Definition 2.1)** - **계산 가능성**: 결정적 다항 시간 알고리즘 A′가 f(x)를 효율적으로 계산한다. - **역연산의 어려움**: 모든 PPT 공격자 A와 모든 상수 c>0에 대해, 길이 n인 구 I_n에서 A가 성공 확률이 n^{-c}를 초과하는 입력들의 비율이 초다항적으로 작아야 한다. 즉, 성공 가능한 입력 집합이 강하게 무시 가능한 집합이어야 함을 의미한다. 2. **일반적으로 약한 일방 함수 (Definition 2.2)** - **계산 가능성**: 동일하게 결정적 다항 시간 알고리즘이 존재한다. - **역연산의 어려움**: 모든 PPT 공격자 A와 모든 상수 c>0에 대해, 어떤 다항식 p(n) 존재하여, 길이 n인 구 I_n에서 A가 성공 확률이 n^{-c} 이하인 입력들의 비율이 1/p(n) 이상이어야 한다. 이는 “대부분의 입력에 대해 역연산이 어려운” 약한 형태를 정의한다. 핵심 기술은 Lemma 2.3과 그 증명이다. 여기서는 특정 입력 집합 S_n에서 공격자 A가 성공 확률이 n^{-c} 이상인 경우, A를 반복 실행하고 Chernoff 경계를 적용해 전체 구 I_n에서 평균 성공 확률이 n^{-d} 수준으로 상승함을 보인다. 이를 통해 일반 경우 정의와 기존 평균 정의가 서로 동등함을 증명한다. 즉, 일반 경우 복잡도 기반 정의가 기존 정의와 동일한 보안 수준을 제공함을 보이며, 동시에 분석이 더 직관적이고 간결해진다. 또한, 논문은 “오류를 허용하는 부분 알고리즘”으로 확장된 공격자 모델이 기존 보안 가정에 영향을 주지 않음을 간단히 증명한다. 부분 알고리즘이 오류를 내는 경우에도, 오류가 발생하는 입력이 강하게 무시 가능한 집합에 속한다면 전체 보안 가정은 변하지 않는다. 이는 일반 경우 복잡도가 “일반적인 입력에 대해서는 정확히 동작하고, 드문 입력에 대해서는 오류를 허용한다”는 특성을 암호학적 보안 모델에 자연스럽게 매핑할 수 있음을 시사한다. 마지막으로 저자는 향후 연구 방향을 제시한다. 일반 경우 복잡도를 이용해 새로운 일방 함수 후보를 설계하고, 특히 결정 불가능한 문제(예: 무한 군의 단어 문제)에서 파생된 일반 경우 일방 함수를 구축함으로써, 기존 암호 원시체보다 더 강력한 보안 가정을 제공할 가능성을 탐색한다. 또한, 일반 경우 복잡도와 평균 복잡도, 그리고 휴리스틱 복잡도 사이의 관계를 더 깊이 연구하여, 암호학적 설계와 분석에 새로운 도구를 제공하고자 한다.