한 번에 최적화하는 결합 행렬·텐서 분해 기법

본 논문은 다중 출처 데이터의 융합 분석을 목표로, 행렬과 고차원 텐서를 동시에 모델링하는 결합 행렬·텐서 분해(CMTF) 문제를 다룬다. 서론에서는 레스토랑 추천 시스템, 의료 진단 등에서 서로 다른 형태(행렬·텐서)의 데이터가 동시에 존재하며, 이를 효과적으로 결합하지 못하면 중요한 잠재 구조를 놓칠 위험이 있음을 강조한다. 기존 연구들은 주로 행렬만을 대상으로 한 CMF(Collective Matrix Factorization)나 텐서만을 대상으로 한 CP(CANDECOMP/PARAFAC) 모델을 제안했으며, 이들 모두 교대형(Alternating) 알고리즘에 의존했다. 이러한 교대 방식은 (i) 컴포넌트 수가 정확히 추정되지 않을 경우 수렴이 불안정하고, (ii) 결측값이 많을 때 imputation 과정이 실패하며, (iii) 대규모 데이터에 대한 확장성이 제한된다는 문제점을 가지고 있다. 본 연구의 핵심 기여는 CMTF‑OPT라는 일괄 최적화 알고리즘을 제시한 것이다. 먼저 CMTF 모델을 수식 (1)과 같이 정의한다. 여기서 텐서 X는 CP 모델 \(\llbracket A,B,C\rrbracket\) 로 근사되고, 행렬 Y는 동일한 첫 번째 모드 요인 A와 별도 요인 V의 곱으로 표현된다. 목적함수는 두 데이터셋의 Frobenius norm 차이의 제곱합이며, 결측값을 포함하려면 마스크 W를 도입해 \((1-W)\odot(\cdot)\) 형태로 손실을 수정한다. 알고리즘 설계는 다음과 같다. (1) 모든 요인 행렬을 하나의 파라미터 벡터로 펼쳐서 최적화 변수로 만든다. (2) 텐서와 행렬의 그래디언트를 각각 Khatri‑Rao 곱과 행렬 곱을 이용해 효율적으로 계산한다. (3) L‑BFGS, 비선형 CG, 혹은 Adam과 같은 1차 최적화 기법을 적용한다. (4) 각 반복마다 파라미터를 정규화하여 스케일 문제를 방지하고, 라인 서치를 통해 Wolfe 조건을 만족하는 스텝 사이즈를 선택한다. 결측 데이터가 있는 경우, 마스크 W에 의해 손실과 그래디언트가 자동으로 무시되므로 별도의 imputation 단계가 필요 없다. 실험에서는 두 가지 주요 시나리오를 다룬다. 첫 번째는 합성 데이터에서 네 개의 클러스터를 가진 고객‑아이템‑식사 텐서와 고객‑카테고리 매트릭스를 결합해, CMTF‑OPT가 ALS보다 정확히 네 클러스터를 복원함을 보여준다. 두 번째는 결측률을 0 %부터 95 %까지 변화시키며 텐서 X와 매트릭스 Y를 동시에 복원하는 실험이다. CP 단독 모델은 결측률이 80 %를 초과하면 복원 오차가 급격히 증가하지만, CMTF‑OPT은 90 %까지도 비교적 낮은 오류를 유지한다. 또한, 수렴 속도 측면에서 CMTF‑OPT은 평균 30 % 적은 반복 횟수와 20 % 이하의 실행 시간으로 ALS를 능가한다. 논문의 마지막 부분에서는 향후 연구 방향을 제시한다. 첫째, 비음수 혹은 스파스 제약을 포함한 정규화 항을 도입해 실제 응용(예: 이미지 복원, 추천 시스템)에서 해석 가능성을 높이는 방안. 둘째, 분산/병렬 환경에서 L‑BFGS를 구현해 대규모 데이터셋(수백만 엔트리)에도 적용 가능하도록 하는 기술적 과제. 셋째, 모델 선택(컴포넌트 수 R) 자동화와 베이지안 프레임워크와의 연계를 통해 과적합을 방지하고 일반화 성능을 향상시키는 연구가 필요하다. 요약하면, 본 논문은 CMTF 문제를 전역 최적화 문제로 재정의하고, 효율적인 1차 최적화 기반 일괄 알고리즘 CMTF‑OPT을 제안함으로써 기존 교대형 ALS 방식의 한계를 극복한다. 결측 데이터 처리, 높은 정확도, 빠른 수렴이라는 장점을 입증했으며, 향후 다양한 제약조건 및 대규모 분산 구현을 통해 실무 적용 가능성을 넓힐 수 있음을 시사한다.