공유특징을 활용한 효율적 다중클래스 학습
ShareBoost는 클래스 수가 많아도 사용되는 특성 수를 서브선형으로 유지하도록 설계된 전방 탐욕형 알고리즘이다. 열(특징) 단위의 희소성을 목표로 손실의 그래디언트 L1 노름이 가장 큰 열을 순차적으로 선택하고, 선택된 열에 대해 완전 교정(Fully‑Corrective) 업데이트를 수행한다. 이 과정은 다중클래스 로지스틱 손실에 기반하며, 이론적으로 열 희소성 보장과 일반화 오차 경계가 증명된다. 실험에서는 이미지 분류와 텍스트 카테고리…
저자: Shai Shalev-Shwartz, Yonatan Wexler, Amnon Shashua
본 논문은 다중클래스 분류 문제에서 사용되는 특성 수를 클래스 수에 비해 서브선형으로 유지하고자 하는 목표를 제시한다. 이를 위해 저자들은 “ShareBoost”라는 전방 탐욕형 알고리즘을 설계했으며, 이 알고리즘은 특성(열) 단위의 희소성을 직접 최적화한다.
1. **문제 정의 및 목표**
- 입력 객체 v는 d 차원의 특성 벡터 x∈
원본 논문
고화질 논문을 불러오는 중입니다...
댓글 및 학술 토론
Loading comments...
의견 남기기