분산 계산의 지역 정보 동역학: 셀룰러 오토마타를 통한 정량적 통찰

본 논문은 복잡계 과학에서 ‘분산 계산’이라는 개념을 세 가지 기본 연산—정보 저장, 정보 전송, 정보 변형—으로 분해하고, 이를 지역(시공간) 수준에서 정량화하는 최초의 완전한 프레임워크를 제시한다. 서론에서는 분산 계산이 물리학, 인공생명, 생물정보학 등 다양한 분야에서 ‘메모리’, ‘통신’, ‘처리’라는 용어로 논의되어 왔으며, 이는 튜링 기계의 기본 연산과 일맥상통함을 강조한다. 그러나 기존에는 이러한 연산을 개별적으로 측정하거나 상호작용을 파악할 방법이 부족했다는 점을 지적한다. 정보 이론적 배경으로는 샤논 엔트로피, 공동 엔트로피, 조건부 엔트로피, 상호정보, 조건부 상호정보 등을 소개하고, 시계열 데이터에 특화된 ‘엔트로피율’, ‘과잉 엔트로피(Excess Entropy)’ 등을 정의한다. 특히 로컬(점별) 정보량을 도입해 각 관측값에 대한 정보 콘텐츠를 h(x)=−log₂p(x) 형태로 표현하고, 이를 기반으로 로컬 상호정보 i(x;y)와 로컬 조건부 상호정보 i(x;y|z)를 도출한다. 이러한 로컬 측정값은 평균값과 달리 특정 순간·위치에서의 정보 흐름을 직접적으로 드러낸다. 핵심적인 세 가지 로컬 동역학 측정은 다음과 같다. 1) ‘활성 정보 저장(active information storage, AIS)’은 과거 k개의 상태가 현재 상태를 얼마나 예측하는지를 나타내는 로컬 상호정보이며, 저장된 정보가 높은 셀은 과거에 강하게 의존한다. 2) ‘전송 엔트로피(transfer entropy, TE)’는 한 셀의 과거가 다른 셀의 현재를 예측하는 데 제공하는 추가 정보를 측정하며, 인과적 정보 흐름을 포착한다. 3) ‘정보 변형(information modification)’은 두 입력이 결합해 새로운 정보를 생성하는 정도를 조건부 상호정보 I(X;Y|Z)로 정의한다. 이론적 정의를 바탕으로 저자들은 1차원 이진 셀룰러 오토마타(CA), 특히 Wolfram 규칙 110, 54, 30 등 다양한 규칙에 프레임워크를 적용한다. 시뮬레이션 결과, ‘blinkers’(주기적 고정 패턴)에서는 AIS가 현저히 높아 정보가 장기간 저장됨을 확인했다. ‘particles’(이동하는 구조)에서는 TE가 강하게 나타나 인접 셀 간에 정보가 전송되는 경로를 시각화했으며, 충돌 지점에서는 조건부 상호정보가 급증해 변형이 일어남을 입증했다. 이러한 정량적 결과는 기존에 ‘blinkers는 저장, particles는 전송, 충돌은 처리’라는 경험적 가설을 처음으로 수학적으로 검증한 것이다. 또한, 복잡한 규칙(예: 110)에서는 저장·전송·변형이 서로 겹쳐 나타나는 ‘정보 코히어런스’ 현상이 관찰되었다. 이는 복잡계가 단순히 개별 연산의 합이 아니라, 이들 연산이 시공간적으로 일관되게 결합될 때 비로소 높은 계산 능력을 발휘한다는 이론적 주장과 일치한다. 저자들은 이러한 코히어런스가 복잡한 패턴 형성, 자가조직화, 그리고 보통의 ‘복잡성 지표’(예: 엔트로피율, 과잉 엔트로피)보다 더 근본적인 복잡성 척도가 될 수 있음을 제안한다. 논문의 마지막 부분에서는 프레임워크의 일반화 가능성을 논의한다. 군집 행동(물고기 떼, 새 무리) 데이터에 적용해 개체 간 정보 전송을 정량화했으며, 신경 과학 분야에서는 뇌 영역 간의 정보 흐름과 변형을 분석해 인지 과정의 동역학을 밝히는 데 활용될 수 있음을 시사한다. 또한, 설계 관점에서 목표하는 정보 저장·전송·변형 패턴을 갖는 인공 시스템을 만들기 위한 가이드라인을 제공한다. 결론적으로, 이 연구는 복잡계 내 분산 계산을 정량적으로 측정하고, 그 상호작용을 시각화함으로써 “전체는 부분의 합보다 크다”는 현상을 과학적으로 뒷받침한다. 향후 다양한 물리·생물·사회 시스템에 적용해 복잡성의 본질을 더 깊이 이해하고, 정보 기반 설계 원칙을 확립하는 데 중요한 토대를 제공한다.