DF 릴레이 선택 최적 임계값 예측을 위한 인공신경망 기반 접근

본 논문은 5G 및 차세대 무선 네트워크에서 협업 통신(Cooperative Communication, CC)의 핵심 기술인 디코드‑앤‑포워드(Decode‑and‑Forward, DF) 릴레이 선택 시스템의 성능을 향상시키기 위해, 릴레이가 전송을 수행할지 여부를 결정하는 임계값(γth)의 최적값을 인공신경망(Artificial Neural Network, ANN)으로 예측하는 새로운 방법을 제안한다. 기존 연구에서는 단일 릴레이 경우에만 해석적으로 최적 임계값을 도출하거나, 다중 릴레이 환경에서는 수치 최적화를 통해 임계값을 찾았다. 그러나 이러한 방법은 실시간 시스템에 적용하기엔 계산 복잡도가 높아 실용성이 떨어진다. 이를 해결하고자 저자들은 평균 링크 품질(소스‑릴레이, 릴레이‑목적지, 소스‑목적지 SNR)과 릴레이 수(M)를 입력 변수로 사용해 두 종류의 ANN, 즉 다층 퍼셉트론(MLP)과 방사형 기저 함수(RBF) 네트워크를 설계하였다. 시스템 모델에서는 최적 임계값이 BER을 최소화하는 값으로 정의되며, BER 식은 BPSK 변조와 최대 비율 결합(Maximum Ratio Combining, MRC) 수신기를 가정한 식(1)을 기반으로 한다. 이 식은 임계값, 평균 SNR, 릴레이 수에 따라 복잡한 비선형 형태를 띠므로, 직접적인 해석적 해를 구하기 어렵다. 따라서 저자들은 먼저 다양한 시나리오(릴레이 수 2~6, 대칭 및 비대칭 채널 조건)에서 수치적으로 BER을 계산하고, 각 시나리오마다 BER을 최소화하는 γth를 찾아 ‘수치 최적값’ 데이터를 구축하였다. 이 데이터는 총 12,500개의 학습 샘플과 3,125개의 테스트 샘플로 구성되었으며, 모든 입력은 0~1 구간으로 정규화하였다. MLP는 은닉층에 12개의 뉴런을 배치하고, 은닉 활성화 함수로 tanh, 출력 활성화 함수로 선형 함수를 사용하였다. 학습 알고리즘은 Levenberg‑Marquardt 역전파를 적용했으며, 은닉 뉴런 수를 4에서 18까지 변화시켜 MSE 변화를 관찰한 결과, 12개 뉴런에서 MSE가 8.59 × 10⁻⁶으로 급격히 감소하고 이후 개선 폭이 미미함을 확인하였다. RBF는 동일한 뉴런 수(12)와 가우시안 커널을 사용했으며, 스프레드 파라미터를 0.8로 설정해 최적 MSE를 도출하였다. 그러나 RBF의 최종 MSE는 2.45 × 10⁻⁴로 MLP보다 현저히 높았다. 테스트 단계에서는 무작위로 선택된 10개의 샘플에 대해 ANN이 예측한 임계값과 수치 최적값을 비교하였다. MLP는 평균 절대 오차(MAE) 0.0024, 결정계수(R²) 0.9997을 기록해 거의 완벽한 근사성을 보였으며, RBF는 MAE 0.0109, R² 0.9914로 다소 차이를 보였다. 또한, 그래프(그림 5, 6)에서 MLP와 RBF가 각각 대칭 네트워크(M=4)와 비대칭 네트워크(M=6)에서 수치 최적값 곡선과 거의 일치함을 확인했다. 성능 평가에서는 최적 임계값을 적용했을 때 BER이 최소화되는 것을 확인했으며, 동일 BER 목표(예: 10⁻³)에서 최적 임계값을 사용하면 전력 소비가 약 2 dB 감소한다는 ‘그린 통신’ 효과를 강조하였다. 이는 임계값이 너무 낮으면 릴레이가 오류를 전파하고, 너무 높으면 유용한 릴레이가 사용되지 않아 다이버시티 이득을 놓치게 되는 트레이드오프를 ANN이 효과적으로 조정한다는 의미이다. 논문의 주요 기여는 다음과 같다. (1) 다중 릴레이 DF 시스템에서 최적 임계값을 예측하기 위해 ANN을 최초로 적용하였다. (2) MLP와 RBF 두 모델을 비교해 동일 은닉 뉴런 수에서 MLP가 우수함을 입증하였다. (3) ANN 기반 예측이 수치 최적화와 거의 동일한 정확도를 보이며, 실시간 시스템에 적용 가능함을 시사하였다. (4) 최적 임계값 적용 시 전력 절감 효과를 정량적으로 제시해 친환경 통신에 기여하였다. 하지만 몇 가지 제한점도 존재한다. 학습 데이터는 레일리 페이딩 채널에만 기반했으며, 다른 페이딩 모델(예: Nakagami‑m)이나 다중 안테나(MIMO) 환경에 대한 일반화 검증이 부족하다. 또한, ANN 추론에 필요한 연산량과 메모리 요구사항을 실제 모바일 단말에 적용할 경우의 비용 분석이 없으며, 실시간 채널 변동에 대한 적응성(온라인 학습)도 다루지 않았다. 향후 연구에서는 다양한 채널 모델, 이동성 상황, 경량화된 딥러닝 구조(예: CNN, LSTM) 등을 적용해 실시간 적용성을 검증하고, 하드웨어 구현을 통한 전력·지연 분석을 수행할 필요가 있다.