QubitHD: 확률적 이진화로 HD 컴퓨팅 가속

본 논문은 고차원(HD) 컴퓨팅 기반 머신러닝이 에너지 효율성 측면에서 유망하지만, 실제 적용 시에는 부동소수점이나 정수형으로 모델을 유지해야 높은 정확도를 얻을 수 있다는 문제점을 지적한다. 기존 연구인 QuantHD는 이진화된 모델의 정확도를 향상시키기 위해 이진화 과정을 학습 루프에 포함시켰지만, 여전히 비이진 모델과의 정확도 격차가 크고, 학습이 지역 최소점에 머무르는 현상이 발생한다. 이를 극복하기 위해 저자들은 ‘QubitHD’라는 새로운 알고리즘을 제안한다. QubitHD는 양자 비트의 측정 원리를 차용한 확률적 이진화 함수를 도입한다. 구체적으로, 입력값 x에 대해 절댓값이 임계값 b보다 작을 경우 x/b 비율에 따라 +1 또는 -1을 확률적으로 선택하고, |x|>b이면 결정적으로 +1 혹은 -1을 부여한다. 이 함수는 |x|≤b 구간에서 기대값이 x/b가 되도록 설계돼, 이진화된 모델의 평균값이 원래 비이진 모델과 일치하도록 만든다. 알고리즘 흐름은 네 단계로 구성된다. 첫째, 데이터 포인트를 10 000 차원의 하이퍼벡터로 인코딩한다. 둘째, 동일 클래스에 속하는 하이퍼벡터들을 합산해 초기 클래스 하이퍼벡터를 만든다(One‑Shot 학습). 셋째, 위에서 설명한 확률적 이진화 함수를 적용해 클래스 하이퍼벡터를 이진화한다. 넷째, 재학습 단계에서 잘못 분류된 샘플에 대해 해당 클래스 하이퍼벡터에 더하고, 오분류된 클래스에서는 빼는 방식으로 업데이트한다. 이때 학습률 α를 적용해 업데이트 폭을 조절한다. QubitHD는 이진화 후 코사인 유사도 대신 해밍 거리를 사용해 연산 비용을 크게 줄인다. FPGA 구현에서는 비트‑레벨 연산을 파이프라인화하여 전력 소모를 최소화하고, 확률적 이진화 과정에서 필요한 난수 생성은 기존 재학습 라운드당 한 번만 수행되므로 하드웨어 오버헤드가 거의 없다. 실험에서는 인간 활동 인식, 얼굴 인식, 텍스트 분류 등 다양한 데이터셋을 대상으로 정확도, 수렴 속도, 에너지 효율을 평가했다. 결과는 다음과 같다. (1) 비이진 HD 모델과의 정확도 격차를 평균 38.8 % 감소시켰으며, 일부 데이터셋에서는 거의 동일한 수준까지 끌어올렸다. (2) 재학습 라운드 수가 30‑50 % 감소해 전체 학습 시간이 95 % 단축되었다. (3) FPGA 구현에서 에너지 효율이 기존 HD 알고리즘 대비 평균 56배, 학습 속도는 8배 향상되었다. (4) BNN·MLP와 비교했을 때 학습·추론 속도는 각각 56배·52배 빨라졌으며, 정확도는 동등하거나 약간 상회했다. 결론적으로 QubitHD는 확률적 이진화를 통해 HD 컴퓨팅의 핵심 장점인 저전력·고속 처리를 유지하면서, 이진화에 따른 정확도 손실을 최소화한다. 이는 에너지 제한이 심한 엣지 디바이스나 IoT 환경에서 복잡한 딥러닝 모델을 대체할 실용적인 경량 학습 솔루션으로 활용될 가능성을 제시한다.