트리 구조 다층 퍼셉트론을 이용한 오류 정정 코드

본 연구는 통계역학적 도구를 활용해 트리 구조를 갖는 다층 퍼셉트론을 기반으로 한 오류 정정 코드를 설계하고, 그 성능을 이론적으로 분석한다. 먼저, 원본 메시지 s⁰는 N개의 이징 변수(±1)로 구성되며, 이를 K개의 은닉 유닛으로 나누어 각각 N/K 차원의 무작위 입력 벡터 xᵤ(μ)와 내적한다. 은닉 유닛의 출력은 두 종류의 비선형 함수 중 하나를 적용한다. 첫 번째는 전통적인 단조형 sign 함수이며, 두 번째는 “hat‑shaped” 비단조형 함수 fₖ(x)로, |x|≤k이면 +1, 그 외에는 −1을 반환한다. 이러한 비단조형 함수는 편향된 입력 분포와 비대칭 채널에 대한 적응성을 제공한다. 인코딩은 다섯 가지 형태로 구분된다. (I) 비단조형 은닉 유닛을 갖는 패리티 트리(PTH)에서는 각 은닉 유닛의 출력에 다시 비단조형 함수를 적용해 최종 코드워드 y₀를 만든다. (II) 비단조형 은닉 유닛을 갖는 위원회 트리(CTH)에서는 은닉 유닛들의 sign 출력들을 평균한 뒤 sign 함수를 적용한다. (III) 비단조형 출력 유닛을 갖는 위원회 트리(CTO)에서는 은닉 유닛은 sign 함수를 사용하고, 최종 출력에 비단조형 함수를 적용한다. (IV) 전통적인 단조형 은닉 유닛만을 갖는 패리티 트리(PT)와 (V) 전통적인 단조형 은닉·출력 유닛을 갖는 위원회 트리(CT)는 각각 sign 함수를 이용해 코드워드를 생성한다. 코드워드 y₀는 크기 M의 벡터이며, 이를 비대칭 이진 채널(BAC)로 전송한다. BAC는 1→−1 전이 확률 p와 −1→1 전이 확률 r을 갖는다. 채널을 통과한 후 수신된 벡터 y는 y₀와 독립적으로 뒤틀리며, 그 조건부 확률은 식 (3)·(4)와 같이 표현된다. 복구 과정은 베이즈 추정 P(s|y)∝P(y|s)P(s)를 최대화하는 MAP 추정으로 모델링한다. 이를 위해 Hamiltonian H(y,s)=−ln P(y,s) 를 정의하고, 복제법을 적용해 평균 자유에너지 f_RS를 구한다. 복제 수 n→0 한계에서 자유에너지 식(24)와 내부 적분식(25)을 도출하고, Gaussian 적분 D·와 이진 변수 합을 통해 파라미터 q, ĥq, m, ĥm을 최적화한다. 임계 코드율 R_c는 자유에너지의 극값에서 파라미터가 변하는 지점으로, 이는 페리오딕(ferromagnetic) 단계와 파라메트릭(paramagnetic) 단계 사이의 전이점이다. R_c가 채널 용량 C_BAC와 일치하면 해당 스킴이 샤논 한계에 도달한다. 채널 용량은 식 (13)‑(18)에서 명시적으로 계산되며, r=p인 경우는 BSC 용량 C_BSC=1−H₂(p) 로 단순화된다. 분석 결과, 비단조형 은닉 유닛을 사용한 PTH와 CTH는 임계 코드율이 C_BAC와 동일하게 되도록 임계값 k와 은닉 유닛 수 K를 조정할 수 있다. 특히, 편향된 메시지(예: 평균이 0이 아닌 경우)와 비대칭 채널(p≠r)에서도 최적 성능을 유지한다. 반면, 전통적인 단조형 스킴(PT, CT)은 BSC 상황에서만 용량에 근접하고, 비대칭 채널에서는 R_c가 C_BAC보다 낮아 샤논 한계에 도달하지 못한다. 위원회 트리 구조는 은닉 유닛 수 K가 홀수일 때 출력이 0이 되는 불확실성을 회피할 수 있어 디코딩 안정성을 제공한다. 또한, 비단조형 함수 fₖ는 저장 용량을 극대화하는 효과가 알려져 있었으며, 본 연구에서는 그 효과가 오류 정정 코드의 용량에도 직접적으로 전이된다는 점을 확인한다. 복제 대칭 파괴(1‑RSB) 가능성이나 실제 디코더 구현에 대한 구체적 논의는 포함되지 않았지만, 이론적 최적성 검증을 위한 기반을 제공한다. 최종적으로, 트리 구조 다층 퍼셉트론을 이용한 비단조형 인코딩은 비대칭 채널에서도 샤논 한계에 도달할 수 있는 강력한 오류 정정 코드 설계 방안을 제시한다.