그래프 기반 ISI 채널 최대우도 검출의 새로운 접근법

본 논문은 인터심볼 간섭(ISI) 채널에서 최대우도(ML) 검출을 효율적으로 수행하기 위한 새로운 그래프 기반 접근법을 제시한다. 기존의 Viterbi나 BCJR 알고리즘은 채널 메모리 µ에 대해 지수적인 복잡도를 가지며, LDPC와 같은 오류 정정 코드를 결합할 경우 복잡도가 더욱 증가한다. 저자들은 이러한 문제를 해결하기 위해 먼저 ISI 채널을 이진 입력, BPSK 변조를 가정한 부분 응답(Partial‑Response, PR) 모델로 정의하고, 출력 yₜ를 채널 임펄스 hᵢ와 전송 비트 ˜xₜ₋ᵢ의 선형 결합으로 표현한다. ML 검출은 수신 벡터 r과 채널 출력 y 사이의 L₂ 거리 최소화 문제로 서술되며, 이를 전개하면 정수 이차계획(IQP) 형태가 된다. 저자들은 이 IQP를 두 단계로 변형한다. 첫 번째 단계에서는 각 이차항 ˜xₜ·˜xₜ₋ⱼ 를 새로운 변수 ˜zₜ,ⱼ 로 치환하고, 이 변수와 원래 비트 xₜ 사이에 XOR 관계 zₜ,ⱼ = xₜ ⊕ xₜ₋ⱼ 를 제약식으로 추가한다. 이렇게 하면 목적함수는 x와 z에 대한 선형 결합으로 바뀌고, 제약식은 3‑변수 체크 노드 형태의 그래프( Tanner 그래프)로 표현될 수 있다. 두 번째 단계에서는 이 0‑1 정수 문제를 선형계획(LP)으로 완화한다. 체크 노드마다 “odd‑set” 제약을 도입해 다각형 형태의 실수 영역을 정의하고, 변수 범위는 0 ≤ xᵢ ≤ 1 로 제한한다. 이때 목적함수의 계수 λₜ,ⱼ 은 채널 임펄스 응답에 의해 결정되며, 양수이면 |xₜ−xₜ₋ⱼ|, 음수이면 |xₜ+xₜ₋ⱼ−1| 형태로 비용에 기여한다. 논문은 λₜ,ⱼ 가 모두 비음수인 경우, 즉 “Weak Nonnegativity Condition”(WNC)이 만족될 때 LP 완화가 항상 정수해를 반환한다는 정리(정리 1)를 증명한다. 증명은 절대값 함수가 만든 비선형성을 그래프상의 의존 관계로 해석하고, WNC가 만족되면 모든 음수 가중치가 사이클에 포함되지 않아 최적해가 단위 입방체의 꼭짓점(정수점)에서 이루어진다는 논리 전개를 따른다. 반대로 WNC가 위배되는 경우, 특히 음수 계수가 사이클에 존재하면 절대값 항이 활성화되어 비정수 해가 발생할 수 있다. 이러한 경우는 “LP‑improper” 채널이라 명명되며, SNR이 무한대로 증가해도 LP 해가 정수화되지 않는 현상이 관찰된다. 시뮬레이션에서는 다양한 PR 임펄스 응답을 테스트하였다. 예를 들어, h =