메타학습 기반 인과추론 프레임워크 MetaCI

본 논문은 관찰 연구에서 얻은 데이터로부터 인과효과를 정확히 추정하는 문제를 다룬다. 기존 인과추론(CI) 방법은 주로 공변량 이동을 완화하기 위해 잠재 표현 학습, GAN, Deep IV 등 다양한 딥러닝 기법을 도입했지만, 훈련 데이터와 테스트 데이터 사이에 존재하는 인구 이질성(heterogeneity) 및 시간에 따른 목표 변수 분포 변화(개념 이동, concept shift)를 충분히 고려하지 못했다. 이러한 문제를 해결하고자 저자들은 MetaCI라는 프레임워크를 제안한다. MetaCI는 두 가지 핵심 요소로 구성된다. 첫 번째는 기존 CI 네트워크(Shalit et al., 2017)로, 관측(팩추얼) 데이터와 반사실(카운터팩추얼) 데이터 사이의 분포 차이를 최소화하기 위해 표현 Φ와 가설 h를 학습하고, 분포 차이(discrepancy) 손실과 정규화 항을 포함한다. 두 번째는 메타학습 최적화 기법인 Reptile을 적용해 여러 하위그룹(태스크) 간의 공통 구조를 학습하고, 새로운 하위그룹에 대해 빠르게 적응할 수 있는 메타 초기화 Ψ₀를 얻는 것이다. 태스크 정의는 메타학습 성공의 핵심이다. 논문에서는 혼동 변수의 공동 분포를 기준으로 태스크를 만든다. 구체적으로, 하나의 주요 하위그룹에서 60% 샘플을 추출하고, 나머지 40%를 다른 하위그룹에서 균등하게 섞어 각 태스크를 구성한다. 이렇게 하면 각 태스크가 동일한 혼동 변수 영역을 공유하면서도 일부 고유성을 유지해, 메타 학습이 “공통 구조”를 포착하고 “그룹 특이성”에 빠르게 적응하도록 만든다. 메타학습 알고리즘으로는 Reptile의 변형인 멀티‑Reptile을 도입한다. 기존 Reptile은 모든 파라미터에 동일한 학습률 ε를 적용해 메타 업데이트를 수행한다. 그러나 인과추론 네트워크는 표현 레이어와 가설 레이어가 서로 다른 역할을 수행하므로, 멀티‑Reptile은 두 서브모듈에 서로 다른 학습률(ε_Φ, ε_h)을 적용한다. 이는 표현 레이어가 공변량 정규화에 집중하고, 가설 레이어가 결과 예측에 집중하는 특성을 반영해 학습 효율을 높인다. 실험은 두 데이터셋을 사용한다. 첫 번째는 광고 도메인에서 합성 데이터 생성 과정(DGP)을 따라 만든 데이터셋으로, 2,000개의 샘플과 10개의 특성을 갖는다. 여기서는 치료 확률을 혼동 변수 기반으로 정의하고, 응답 변수의 분산 θ를 1, 10, 20 등으로 바꾸어 개념 이동을 시뮬레이션한다. 두 번째는 반실험적 IHDP 데이터셋으로, 실제 의료 데이터를 기반으로 하위그룹(어머니 연령, 아이 빌리루빈 등)을 혼동 변수로 삼아 동일한 태스크 생성 방식을 적용했다. 평가 지표는 평균 치료 효과(ATE)의 평균 절대 백분율 오차(MAPE)이다. 실험 결과, 메타 초기화가 무작위 초기화보다 일관되게 낮은 MAPE를 기록했으며, 특히 개념 이동이 큰 경우에도 성능 저하가 최소화되었다. 멀티‑Reptile을 사용한 경우, 단일 학습률 Reptile 대비 추가적인 성능 향상이 관찰되었다. 논문의 주요 기여는 다음과 같다. (1) 인과추론 네트워크에 메타학습을 도입해 이질적인 인구에 대한 빠른 적응을 가능하게 함, (2) 혼동 변수 기반의 태스크 설계 방법을 제시해 메타 학습에 활용, (3) 표현 레이어와 가설 레이어에 차등 학습률을 적용한 멀티‑Reptile 알고리즘을 제안. 한계점으로는 실제 대규모 관찰 데이터에 대한 검증이 부족하고, 태스크 생성이 도메인 지식에 크게 의존한다는 점이 있다. 향후 연구에서는 자동화된 태스크 클러스터링, 비선형 개념 이동에 대한 보다 강건한 메타 학습 전략, 그리고 실제 의료·교육·소매 데이터에 대한 확장 검증이 필요하다.