멀티코어 환경을 위한 고성능 메모리 캐시 데이터베이스 설계

본 논문은 웹 애플리케이션에서 사용되는 캐시 엔진을 위한 고성능 메모리 데이터베이스의 설계와 구현을 다룬다. 서론에서는 PHP·Python·Ruby 등 스크립트 언어 기반 웹 서비스가 급증함에 따라, 외부 캐시 서버의 필요성이 커지고 있음을 강조한다. 기존 오픈소스 솔루션이 요구 사양(다중코어 활용, 메타데이터 지원, POSIX 호환)을 충족하지 못해 자체 구현을 진행하게 된 배경을 제시한다. **II. 사양**에서는 기본 키‑값 저장소를 사전(dictionary) 형태로 정의하고, 메타데이터를 ‘태그 타입·값’ 형태의 정수 쌍으로 부가한다. 태그를 이용해 동일 그룹의 키를 한 번에 조회·만료할 수 있게 함으로써 애플리케이션 로직을 단순화한다. 또한, 다중코어·다중소켓 환경을 고려해 SMP 최적화와 POSIX 표준 준수를 목표로 한다. **III. 구현 개요**는 세 개의 모듈로 구성된다. 1. **네트워크 인터페이스**는 비동기식 BSD 소켓을 이용해 로컬 Unix 소켓과 TCP 포트를 동시에 제공한다. 요청은 완전한 패킷이 수신되면 작업 큐에 삽입된다. 2. **워커 스레드 풀**은 pthread 기반으로 구현되며, 작업 큐에서 요청을 꺼내 프로토콜 파싱·데이터 연산을 수행한다. 스레드 수는 명령줄 옵션으로 조정 가능하고, ‘스레드리스’ 모드에서는 네트워크 스레드가 직접 파서를 호출해 잠금 오버헤드를 없앤다. 3. **데이터 저장소**는 두 개의 주요 자료구조로 이루어진다. 첫 번째는 고정 크기 해시 테이블이며, 각 버킷은 레드‑블랙 트리와 rwlock을 포함한다. 해시 함수가 균등하게 분포될 경우, 쓰기 작업은 버킷 단위 독점 잠금만 필요하고, 읽기 작업은 공유 잠금으로 동시에 진행된다. 두 번째는 메타데이터 태그를 위한 이중 레드‑블랙 트리 구조다. 태그 타입 트리와 그 하위의 태그 값 트리를 각각 rwlock으로 보호해, “특정 타입·값 범위” 검색을 효율적으로 수행한다. **IV. 설계 논의**에서는 전통적인 LRU·Splay 트리가 다중코어 환경에서 전역 잠금을 요구해 성능을 저하시키는 문제점을 지적한다. 대신 해시‑버킷·레드‑블랙 트리 조합을 채택해 잠금 입자를 버킷 수준으로 제한하고, 잠금 경쟁을 최소화한다. 가비지 컬렉션은 쓰기 작업 중에 버킷 잠금을 획득한 상태에서 수행되며, 메모리 제한은 버킷 별로 적용한다. **V. 시뮬레이션**에서는 해시 버킷 수와 워커 스레드 수를 변수로 하여 ‘fast lock acquisition’ 비율을 측정한다. 90 % 읽기·10 % 쓰기, 80 %·20 %, 50 %·50 % 등 다양한 비율을 시뮬레이션했으며, 버킷 수가 스레드 수보다 충분히 클 경우(예: 256 버킷 vs 8 스레드) 거의 모든 잠금이 비경쟁적으로 획득된다는 결과를 얻었다. 반대로 쓰기 비중이 높아지면 독점 잠금 대기 시간이 증가해 전체 처리량이 감소한다. 이러한 결과를 바탕으로 기본 버킷 수를 256으로 설정하였다. **VI. 실험 결과**에서는 실제 하드웨어(Pentium M 1.5 GHz, FreeBSD 7.0)에서 단일 CPU 환경에서 ‘스레드리스’ 모드와 단일 워커 스레드 모드를 비교했다. ‘스레드리스’ 모드가 약 25 % 높은 처리량을 보였으며, 다중코어 환경에서는 워커 풀을 늘림으로써 CPU 활용도가 선형적으로 증가한다는 점을 확인했다. 그래프는 해시 버킷 수에 따른 공유·독점 잠금의 빠른 획득 비율을 시각화한다. **결론**에서는 제안된 설계가 다중코어 서버에서 높은 동시성을 제공하고, 메타데이터 태그를 통한 그룹 연산을 지원함으로써 웹 애플리케이션 캐시의 효율성을 크게 향상시킨다고 주장한다. 향후 작업으로는 LRU 기반의 자동 만료 정책 통합, 더 정교한 메모리 제한 관리, 그리고 대규모 클러스터 환경에서의 분산 캐시 확장성을 연구할 계획임을 밝힌다.