대규모 무작위 직사각형 행렬의 적분 공식 및 선형 벡터 채널 분석 응용

본 논문은 대규모 선형 벡터 채널을 분석하기 위한 새로운 통계역학적 프레임워크를 제시한다. 먼저, 입력 벡터 x∈ℝ^K가 K×N 채널 행렬 H에 의해 변환되어 Δ=Hx가 되고, 이후 메모리리스 채널을 통해 출력 y∈ℝ^N이 생성되는 모델을 정의한다. 여기서 출력의 조건부 확률은 각 성분이 독립적인 형태 P(y|x;H)=∏_μ P(y_μ|Δ_μ) 로 가정하고, 입력 사전분포도 독립적인 1차원 분포의 곱으로 설정한다. 핵심 가정은 H의 특이값 분해 H=U D V^T 에서 U와 V가 각각 Haar 측도에 따라 독립적으로 균등하게 선택된 정규직교 행렬이라는 점이다. 또한 H^T H의 고유값(λ_k=d_k^2)의 경험적 분포가 N,K→∞, β=K/N 고정인 경우 특정 확률밀도 ρ(λ) 로 수렴한다는 전제를 둔다. 이 가정은 행렬 원소 간 복잡한 상관관계를 평균화하면서도, ρ(λ) 를 통해 원하는 2차 상관구조를 자유롭게 설계할 수 있게 한다. 이러한 설정 하에 저자는 대규모 무작위 직사각형 행렬에 대한 적분 공식(식 7,8)을 도출한다. Haar 평균을 수행한 뒤, 로그-분배 형태의 자유에너지 F(ξ,η)를 extremization(극값)으로 표현한다. 식 (8)에서 λ에 대한 평균 ⟨·⟩_ρ와 Lagrange 승수 Λ_ξ, Λ_η가 등장하는데, 이는 R‑변환과 유사한 역할을 하며 기존의 대칭 행렬에 대한 결과와 직접적인 아날로그 관계를 가진다. 이 공식은 채널 출력 y에 대한 정규화 상수 ln Z_y = N·Extr_{T_x,T_u}{F(T_x,T_u)+βA_x(T_x)+A_u(T_u)} 로 변환되며, 여기서 A_x, A_u는 입력·출력 각각에 대한 단일 변수 최적화 문제이다. 결과적으로 Δ=Hx의 성분들은 입력 사전분포가 주어졌을 때 평균이 0, 분산이 b_Tu인 i.i.d. 가우시안으로 수렴한다는 중요한 통계적 성질을 얻는다. 통신 성능 평가는 상호정보 I(X;Y) 를 자유에너지와 연결시켜 replica 방법을 적용한다. replica trick을 통해 n→0 한계에서 자유에너지 F를 구하고, replica 대칭 가정 하에 식 (14)–(17) 형태의 최적화 문제로 정리한다. 여기서 q_x, q_u는 각각 입력·출력 변수들의 평균 제곱값을 나타내며, b_qx, b_qu는 효과적인 잡음 분산을 의미한다. 이 파라미터들은 extremization 조건을 만족하도록 결정되며, MSE·BER 등 다양한 성능 지표를 계산하는 데 사용된다. 실제 디코딩을 위해 posterior 평균 m_x=E