단백질 적합도 최적화를 위한 이진 잠재공간과 QUBO 모델링

Q‑BIOLAT은 단백질 적합도 최적화를 이산적인 조합 문제로 재정의하고, 이를 효율적으로 풀기 위한 이진 잠재공간과 QUBO 서러게이트 모델을 제안한다. 연구는 크게 네 단계로 구성된다. 1. **연속 임베딩 획득**: 사전학습된 단백질 언어 모델(ESM‑2, ESM‑3)으로부터 각 단백질 서열을 고차원 연속 벡터 e∈ℝ^d 로 변환한다. 평균 풀링을 통해 고정 길이 표현을 만든 뒤, 이 벡터는 이후 압축 단계의 입력이 된다. 2. **연속‑이진 잠재 변환**: 저차원 잠재공간 z∈ℝ^m 으로 압축하는 방법으로 세 가지를 비교한다. (i) **선형 투사**(무작위 투사, PCA) – W∈ℝ^{m×d} 로 곱한 뒤 중앙값 임계값 τ_k 로 이진화한다. (ii) **결정적 자동인코더(AE)** – 인코더 f_θ와 디코더 g_φ 로 구성된 네트워크를 학습하고, 연속 잠재 z를 임계값 기반 또는 sign 함수로 이진화한다. (iii) **변분 자동인코더(VAE)** – 잠재를 확률분포로 모델링하고, 샘플링 후 이진화한다. 3. **QUBO 서러게이트 학습**: 이진 코드 x∈{0,1}^m 를 입력으로, 적합도 y를 예측하는 2차식 ƒ̂(x)=xᵀQx + cᵀx 를 학습한다. 손실은 (ƒ̂(x_i)−y_i)^2 를 최소화하는 형태이며, Q와 c는 정규화된 최소제곱 해법 또는 SGD 기반 최적화로 추정한다. QUBO는 유니콘스트레인드이므로, 모든 조합을 자유롭게 탐색할 수 있다. 4. **조합 최적화 및 디코딩**: 학습된 QUBO를 대상으로 (a) **시뮬레이티드 어닐링(SA)**, (b) **유전 알고리즘(GA)**, (c) **그리디 힐클라이밍** 등 전통적인 조합 최적화 기법을 적용한다. 최적화된 이진 코드 x*는 역변환 과정을 통해 원래 연속 잠재 z* 로 복원되고, 디코더 g_φ(·) 혹은 PCA 역변환을 통해 근사적인 임베딩 ê* 를 얻는다. 마지막 단계에서는 최근접 서열 검색(예: BLAST)이나 직접적인 토큰 디코더를 이용해 실제 아미노산 서열 ŝ 를 생성한다. **실험 및 결과** - **데이터셋**: 5개의 단백질(효소, 항체, DMS 등)과 3가지 데이터 양(전체, 50 %, 10 %)을 사용. - **표현 평가**: PCA 기반 이진코드는 평균 엔트로피 0.49, 복원 R² 0.81을 기록, AE와 VAE는 엔트로피 0.12 이하, 복원 R² 0.45 수준으로 급격히 저하. - **최적화 성능**: SA, GA, 힐클라이밍 모두 PCA‑QUBO에서 상위 1 % 적합도 서열을 70 % 이상 재현했으며, AE‑QUBO는 5 % 이하에 불과했다. - **잠재 차원 영향**: m=32에서 최적화 효율이 최고였으며, m>128에서는 Q 매트릭스가 과도하게 복잡해져 탐색 시간이 급증하고 성능이 포화. - **전이 학습**: 한 데이터셋에서 학습한 QUBO를 다른 단백질에 적용했을 때, PCA‑QUBO는 R² 0.63을 유지, AE‑QUBO는 0.31 이하. - **양자 어닐링 비교**: D‑Wave 시뮬레이터에서 동일한 QUBO를 실행했으나, 현재 하드웨어 제한으로 SA가 더 빠르고 높은 적합도를 달성. **주요 인사이트** - **표현‑최적화 연계**: 동일한 예측 정확도를 가진 표현이라도 이진화 후 구조가 다르면 QUBO 풍경이 크게 달라진다. PCA는 선형 구조를 보존해 상호작용 행렬 Q가 비교적 낮은 차수의 상호작용을 갖게 하여 탐색이 용이하다. 반면 AE/VAE는 비선형 변환 후 이진화 시 대부분의 비트가 고정돼 Q가 거의 대각선 형태가 되며, 탐색 공간이 사실상 축소된다. - **QUBO의 실용성**: QUBO 형태는 기존 조합 최적화 라이브러리와 바로 연결 가능하고, 양자 어닐링과도 호환된다. 현재는 고전적 방법이 더 효율적이지만, 향후 양자 하드웨어가 발전하면 직접적인 속도 향상이 기대된다. - **표현 설계 가이드라인**: (1) 이진화 전후 엔트로피 유지, (2) 복원 정확도와 Q 매트릭스 희소성 균형, (3) 잠재 차원은 32~64 정도가 실험적으로 최적. **결론** Q‑BIOLAT은 단백질 설계 문제를 “연속 → 이진 → QUBO” 파이프라인으로 전환함으로써, 기존 연속형 예측 모델이 제공하지 못했던 조합 최적화 가능성을 열었다. 특히, 단순하지만 구조화된 PCA 기반 이진 잠재공간이 높은 엔트로피와 복원성을 유지하면서 QUBO 최적화에 적합함을 실증하였다. 이 접근법은 현재의 고전적 조합 알고리즘뿐 아니라 향후 양자 어닐링 하드웨어와도 자연스럽게 연결될 수 있어, 단백질 엔지니어링 분야에서 새로운 설계 패러다임을 제시한다.