하이퍼네트워크 기반 LoRA 어댑터로 캘리브레이션된 언어 모델 파인튜닝

본 연구는 최신 트랜스포머 기반 언어 모델이 예측 확률과 실제 정답 빈도 사이에 큰 차이를 보이는 ‘캘리브레이션 불량’ 문제를 해결하고자 한다. 기존의 전체 파인튜닝(full‑fine‑tuning)은 높은 정확도를 제공하지만, 파라미터 수와 메모리 요구량이 크게 늘어나며, 캘리브레이션 개선을 위한 별도 후처리(temperature scaling 등) 없이도 과도한 자신감을 보이는 경향이 있다. 반면 파라미터 효율적인 적응 기법인 LoRA는 사전학습된 가중치를 고정하고, 각 어텐션 레이어의 Query와 Value 행렬에 저‑랭크 행렬 A·B를 삽입해 적은 파라미터만 학습한다. LoRA는 이미 다양한 다운스트림 태스크에서 정확도 손실이 거의 없으며, 파라미터 절감 효과가 입증된 바 있다. 이 논문은 LoRA의 구조적 장점을 캘리브레이션 관점에서 확장한다. 핵심 아이디어는 ‘하이퍼네트워크’를 도입해 레이어별 A·B 행렬을 동적으로 생성하도록 하는 것이다. 하이퍼네트워크 Hϕ는 각 레이어를 식별하는 임베딩 e∈ℝ^{dh}를 입력으로 받아, 동일한 파라미터 집합(MLP 혹은 작은 트랜스포머)으로 A와 B를 출력한다. 이렇게 하면 (1) 전체 LoRA 파라미터 수가 레이어 수에 비례하지 않고, (2) 서로 다른 레이어가 같은 생성 메커니즘을 공유함으로써 전역적인 캘리브레이션 규제가 자연스럽게 형성된다. 구현 세부사항은 다음과 같다. RoBERTa‑large(히든 차원 768)를 베이스 모델로 사용하고, LoRA 랭크 r=8, 스케일링 계수 α=1을 적용한다. 하이퍼네트워크는 두 가지 아키텍처를 실험한다. 첫 번째는 4‑layer MLP(입력 128, hidden 2048, GELU)이며, 두 번째는 2‑layer 트랜스포머 인코더(숨김 차원 256, 16 헤드)이다. 레이어 임베딩 차원은 128로 고정한다. 운영 모드는 ‘Full generation’과 ‘Fixed‑A’ 두 가지이다. Full generation에서는 A와 B 모두를 Hϕ가 생성한다. Fixed‑A에서는 A를 Kaiming 균등 초기화 후 고정하고, B만을 Hϕ가 생성한다. Fixed‑A는 A를 무작위 고정함으로써 B가 학습하는 신호에 구조적 잡음을 주입하고, 이는 과도한 확신을 억제하는 정규화 효과를 기대한다. 실험은 GLUE 벤치마크의 6개 분류 태스크에 대해 수행되었다. 각 태스크별 성능은 기존 전체 파인튜닝(FT)과 LoRA, 그리고 제안된 HypeLoRA(두 변형)으로 측정했다. 평가 지표는 정확도(또는 F1, MCC)와 함께 캘리브레이션을 정량화하는 7가지 메트릭(ECE, CECE, MCE, ACE, T‑ACE, Brier Score)이다. 모든 실험에서 bin 수 M=10을 사용했으며, 동일한 랜덤 시드와 학습 스케줄을 적용해 공정성을 유지했다. 결과 요약: (1) LoRA는 FT와 비교해 대부분의 태스크에서 정확도 차이가 미미하거나 오히려 개선되었으며, ECE 등 캘리브레이션 지표에서도 동등하거나 약간 우수했다. 특히 CoLA에서 MCC가 61.68→63.94(≈2.3%p) 상승했다. (2) HypeLoRA의 Full generation은 LoRA와 거의 동일한 정확도와 캘리브레이션을 보였으며, 일부 경우(예: CoLA)에서 ECE가 0.120→0.108 정도로 소폭 개선되었다. (3) Fixed‑A 변형은 ECE를 0.120→0.098(≈18% 감소)까지 크게 낮추었지만, 정확도는 0.5%~1%p 감소하는 전형적인 정규화 트레이드오프를 나타냈다. 이는 적응 공간을 제한함으로써 모델이 과도하게 자신감을 갖는 현상을 억제하지만, 표현력 손실을 초래한다는 점을 시사한다. 또한 논문은 캘리브레이션 메트릭 구현을 하나의 파이썬 패키지에 통합해 재현성을 크게 향상시켰다. 기존 연구들 사이에 존재하던 구현 차이와 버전 불일치를 최소화하고, 동일한 binning 전략과 평가 프로토콜을 제공함으로써 향후 연구자들이 공정하게 비교할 수 있는 기반을 마련했다. 결론적으로, HypeLoRA는 파라미터 효율성을 유지하면서도 캘리브레이션 품질을 보장하는 실용적인 방법이다. 특히 멀티태스크 환경에서 각 태스크별 파라미터를 별도로 저장해야 하는 부담을 크게 줄일 수 있다. 다만 하이퍼네트워크 자체의 학습 안정성(특히 트랜스포머 기반 Hϕ)과 레이어 임베딩 차원의 선택이 성능에 민감하므로, 향후 연구에서는 메타‑학습, 베이지안 최적화, 혹은 다중 하이퍼네트워크 앙상블 등을 통해 이러한 하이퍼파라미터를 자동화하고, 다양한 도메인 전이 상황에서의 캘리브레이션 강건성을 검증할 필요가 있다.