RNA‑Seq 전사체 차등발현 분석을 위한 베이지안 프레임워크 BitSeq

본 논문은 RNA‑Seq 데이터를 이용해 전사체 수준에서 차등발현(transcript‑level differential expression, DE)을 정확히 검출하기 위한 새로운 베이지안 프레임워크인 BitSeq을 제안한다. 연구 배경으로는 RNA‑Seq가 전사체 전체를 고해상도로 측정할 수 있지만, 공유 외온(exon)으로 인한 매핑 모호성, 제한된 읽기 수에 의한 샘플링 변동, 그리고 생물학적 복제 간 변이를 동시에 고려해야 한다는 점을 들었다. 기존 방법들은 주로 EM‑기반 점 추정이나 단순 베이지안 모델에 머물러 사후 불확실성을 충분히 활용하지 못하고, 복제 간 변이 모델링이 부실해 거짓 양성률이 높았다. BitSeq은 두 단계로 구성된다. 1) **전사체 발현량 추정 단계**에서는 각 샘플에 대해 읽기 r_n이 어느 전사체 I_n에서 유래했는지를 나타내는 범주형 변수와, 잡음 여부를 나타내는 베르누이 변수 Z_act_n을 도입한 확률 그래프 모델을 만든다. θ(전사체 상대 발현량)는 디리클레 사전, 잡음 비율 θ_act는 베타 사전으로 설정한다. 읽기와 전사체 간 매핑 확률 P(r_n|I_n=m)은 Bowtie 정렬 결과와 위치·시퀀스 편향 보정을 통해 사전 계산한다. 이 모델의 사후분포는 폐쇄형이 아니므로, θ를 주변화한 뒤 collapsed Gibbs sampler를 사용해 I_n 샘플을 추출하고, 이를 통해 θ의 MCMC 사후 샘플을 얻는다. 여러 체인을 동시에 실행하고 Gelman‑Rubin b̂R 통계량으로 수렴을 확인한다. 이렇게 얻은 사후 샘플은 각 전사체의 발현량 추정치와 그 불확실성을 동시에 제공한다. 2) **차등발현 분석 단계**에서는 복제 데이터를 통합한다. 각 복제 r의 로그 발현 y_crm은 조건 평균 μ_cm과 복제‑특이 정규화 상수 n_cr, 정밀도 λ_cm을 갖는 정규분포로 가정한다. μ_cm은 로그‑정규 계층 모델을 통해 조건 간 평균을 추정하고, 변이(σ^2)의 사전은 평균 발현 수준에 따라 달라지는 비선형 함수(비모수 회귀)로 학습한다. 핵심 아이디어는 1단계에서 얻은 MCMC 샘플을 “가짜 데이터(pseudo‑data)”로 사용해 각 복제마다 하나의 샘플을 선택하고, 이를 정규‑정규(conjugate) 모델에 직접 적용함으로써 기술적 노이즈를 이미 반영한 상태에서 생물학적 변이만을 추정한다. 이렇게 추정된 조건 평균 μ의 사후분포 차이를 기반으로 Positive Log‑ratio Probability (PPLR)를 계산한다. PPLR은 두 조건 간 로그 비율이 양수일 확률이며, 이를 내림차순으로 정렬해 전사체 수준 DE 리스트를 만든다. 논문은 시뮬레이션 실험과 실제 데이터(기술·생물학 복제 포함)를 통해 BitSeq의 성능을 검증한다. 시뮬레이션에서는 다양한 발현 수준과 복제 수를 변형시켜 기존 EM‑기반 방법(Cufflinks, eXpress)과 비교했으며, BitSeq이 FDR을 현저히 낮추고, 특히 저발현 전사체에서 거짓 양성을 크게 억제함을 확인했다. 실제 데이터에서는 기술 복제와 생물학 복제를 모두 포함한 두 조건을 분석했으며, BitSeq이 기존 방법보다 더 일관된 DE 결과를 제공하고, 변이 추정이 안정적임을 보였다. 알고리즘적 장점으로는 (1) 다중 매핑을 완전 보존하여 정보 손실 최소화, (2) 잡음 모델을 명시적으로 포함해 저품질 읽기를 처리, (3) MCMC 사후 샘플을 그대로 전이시켜 불확실성을 보존, (4) 비모수 변이 사전 학습을 통해 복제 수가 적어도 안정적인 변이 추정 가능, (5) C++ 구현을 통한 고성능 제공이 있다. 한계점은 MCMC 샘플링 비용이 높아 대규모 데이터셋에서 실행 시간이 오래 걸릴 수 있다는 점이며, 수렴 판단이 실무에서 어려울 수 있다. 향후 변분 추정(VB)이나 GPU 가속을 도입하면 속도 개선이 기대된다. 결론적으로 BitSeq은 전사체 수준 차등발현 분석에 필요한 기술적·생물학적 변이를 동시에 모델링하고, 사후 불확실성을 보존함으로써 기존 방법보다 더 정확하고 신뢰성 있는 DE 결과를 제공한다. 구현은 오픈소스로 제공되어 연구자들이 직접 적용하고 확장할 수 있다.