열역학 구조를 활용한 신경망 비교 연구

본 논문은 물리‑정보 신경망(PINN)이 물리 법칙을 어떻게 손실 함수에 통합하느냐에 따라 성능과 물리적 일관성이 크게 달라진다는 점에 주목한다. 이를 위해 저자들은 보존계와 비보존계를 아우르는 열역학적 형식들을 선택하고, 각각을 PINN에 적용한 다섯 가지 변형 모델을 설계하였다. 첫 번째 모델은 가장 기본적인 뉴턴식 잔차 기반 PINN이다. 여기서는 미분 방정식 자체를 잔차로 정의하고, 데이터 손실과 함께 최소화한다. 이 접근법은 구현이 간단하지만, 에너지 보존이나 엔트로피 생산과 같은 열역학적 제약을 명시적으로 반영하지 않기 때문에 파라미터 추정이 부정확하고, 잡음에 민감한 단점이 있다. 두 번째와 세 번째 모델은 각각 라그랑지안(Lagrangian)과 해밀토니안(Hamiltonian) 형식을 이용한다. 라그랑지안 기반 PINN은 L = T − V 형태의 라그랑지안을 신경망 출력에 연결하고, 오일러‑라그랑지 방정식의 잔차를 손실에 포함한다. 자동 미분을 통해 d/dt(∂L/∂ẋ) − ∂L/∂x 를 계산함으로써 힘 균형을 강제한다. 해밀토니안 기반 PINN은 H(q,p)와 정준 방정식(ẋ = ∂H/∂p, ṗ = ‑∂H/∂q)을 손실에 포함하고, 추가적으로 dH/dt = 0 제약을 넣어 에너지 보존을 명시한다. 두 모델 모두 보존계(질량‑스프링 진자, 단진자, 이중 진자)에서 높은 정확도와 파라미터 식별 능력을 보였으며, 특히 해밀토니안 모델은 고차원 시스템에서 수치적 안정성을 크게 향상시켰다. 네 번째 모델은 온스게르 변분 원리(OVP)를 기반으로 한다. 비보존계(감쇠 진자, 확산 방정식, Fisher‑Kolmogorov 방정식)에서 라일리시안 R = Φ + ẊU 를 정의하고, δR/δẋ = 0 조건을 손실에 포함한다. 이는 시스템이 최소 에너지 소산 경로를 따르도록 강제하며, 엔트로피가 단조 감소함을 보장한다. 실험 결과, OVP‑PINN은 잡음이 섞인 데이터에서도 파라미터(감쇠 계수, 확산 계수 등)를 정확히 복원하고, 장기 스테디‑스테이트를 올바르게 예측했다. 다섯 번째 모델은 확장 비가역 열역학(EIT)을 적용한다. 여기서는 엔트로피 함수 S(e,n,q,Π…)와 엔트로피 흐름·생산식(∂S/∂t + ∇·Js = σ ≥ 0)을 손실에 직접 포함한다. EIT는 비국소 효과와 고차 모멘트(열 플럭스, 응력 텐서 등)를 다룰 수 있어 복잡한 비평형 현상에 적합하다. 실험에서는 EIT‑PINN이 전통적인 CIT 기반 모델보다 더 정확한 온도·농도 프로파일을 재현했으며, 특히 급격한 경계 조건 변화에 대한 적응력이 뛰어났다. 실험 설계는 각 모델을 동일한 데이터셋(시간·공간 샘플링, 잡음 레벨 0 %~5 %)에 적용하고, 다음 네 가지 지표를 측정했다: (1) 상태 변수 L2 상대 오차, (2) 파라미터 상대 오차, (3) 물리적 일관성(에너지 보존, 엔트로피 생산 부호), (4) 잡음 강건성. 결과는 구조‑보존형 모델(Lagrangian, Hamiltonian)이 파라미터 식별과 물리적 일관성에서 가장 우수했으며, OVP와 EIT 모델은 비보존계에서 엔트로피 생산 부호를 정확히 유지하면서도 잡음에 강인한 특성을 보였다. 반면, 뉴턴식 잔차 기반 PINN은 모든 지표에서 최하위 성능을 기록했다. 논문은 또한 손실 함수의 형태가 최적화 경관에 미치는 영향을 시각화하였다. 구조‑보존형 손실은 더 명확한 최소점과 넓은 수렴 영역을 형성해 학습 초기값에 덜 민감했으며, 비보존형 손실은 라그랑지안·해밀토니안과 달리 복합적인 비선형 제약으로 인해 최적화가 더 어려웠지만, 물리적 제약을 명시적으로 포함함으로써 최종 해의 물리적 타당성을 확보했다. 결론적으로, 열역학적 구조를 손실에 통합하는 것이 PINN의 물리 일관성, 파라미터 식별 정확도, 잡음 강건성을 크게 향상시킨다. 보존계에서는 라그랑지안·해밀토니안 기반 모델이, 비보존계에서는 온스게르·EIT 기반 모델이 최적의 선택이다. 저자들은 향후 연구로 GENERIC, CDF 등 보다 일반적인 비평형 열역학 프레임워크를 PINN에 적용하고, 고차원 복합 시스템(예: 다상 흐름, 화학 반응 네트워크)에서의 확장 가능성을 탐색할 계획이라고 제시한다.