다중 데이터셋을 위한 비선형 차원축소와 차별적 PCA

본 논문은 고차원 데이터 분석에서 여러 데이터셋을 동시에 고려해야 하는 상황을 목표로, 목표 데이터와 하나 이상의 배경 데이터 사이의 차별적 정보를 효율적으로 추출하는 새로운 차원축소 기법을 제안한다. 전통적인 주성분 분석(PCA)은 단일 데이터셋에만 적용되며, 목표와 배경을 함께 분석하면 공통 변동이 강조돼 목표 고유 변동을 놓치기 쉽다. 최근 대비적 PCA(cPCA)는 목표 데이터의 분산을 크게, 배경 데이터의 분산을 작게 만드는 방향을 찾지만, 하이퍼파라미터 α의 선택이 어려워 실용성이 제한된다. 이에 저자들은 파라미터 없이 목표와 배경의 분산 비율을 직접 최적화하는 차별적 PCA(dPCA)를 고안한다. dPCA는 다음 최적화 문제를 풀어 정의된다:  max_u  (uᵀC_xx u) / (uᵀC_yy u) subject to ‖u‖=1, 여기서 C_xx와 C_yy는 각각 목표와 배경 데이터의 공분산 행렬이다. 라그랑주 승수법을 적용하면 일반화 고유값 방정식 C_xx u = λ C_yy u 가 도출되고, λ가 가장 큰 고유값에 대응하는 고유벡터 u가 최적 해가 된다. C_yy가 비특이이면 C_yy⁻¹C_xx의 가장 큰 고유벡터를 구하면 된다. 이는 기존 PCA가 C_yy = I인 경우와 일치함을 보여, dPCA가 PCA의 자연스러운 확장임을 확인한다. 다중 배경 데이터가 존재할 경우, 각 배경 데이터셋에 대한 공분산 C_yy^ℓ 를 모두 합산하거나 가중합하여 총 배경 공분산 C_bg = ∑_ℓ C_yy^ℓ 로 만든 뒤 동일한 비율 최적화를 수행한다. 이를 다중‑배경 dPCA(MdPCA)라 부르며, 목표 데이터가 여러 종류의 잡음·공통 변동으로부터 동시에 정화될 수 있다. 비선형 관계를 다루기 위해 커널 트릭을 적용한 KdPCA를 제안한다. 원본 데이터 x_i, y_j 를 고차원 특성 공간 φ(·) 로 매핑하고, 매핑된 공분산을 직접 계산하는 대신 커널 행렬 K_xx =