그레이스케일 기반 이미지 암호화와 색상 서브샘플링 적용을 통한 EtC 시스템 고도화

본 논문은 이미지 보안과 압축 효율을 동시에 만족시켜야 하는 Encryption‑then‑Compression(EtC) 시스템의 한계를 극복하고자, 그레이스케일 기반 블록 스크램블링 암호화 방식을 새롭게 설계하였다. 기존 EtC 연구에서는 색상 기반 블록 스크램블링을 이용해 JPEG 압축과 호환성을 확보했지만, SNS·클라우드 서비스가 이미지 업로드 시 자동으로 수행하는 색상 서브샘플링(특히 4:2:0) 때문에 암호화 이미지의 압축 효율이 크게 저하되는 문제가 있었다. 또한, 기존 그레이스케일 기반 암호화는 RGB를 직접 그레이스케일로 변환해 블록 크기를 최소 8×8으로 제한했으며, 이는 블록 수가 적어 보안성(키 공간, jigsaw puzzle solver 저항성)과 압축 효율 모두에서 한계를 드러냈다. 이에 저자들은 다음과 같은 핵심 아이디어를 제시한다. 첫째, 원본 RGB 이미지를 YCbCr 색공간으로 변환한다. Y(휘도)와 Cb·Cr(색차) 채널을 각각 4:2:0 서브샘플링하여 색상 정보를 감소시킨 뒤, 이 세 채널을 수직(또는 수평)으로 결합해 하나의 그레이스케일 이미지 I_g 를 만든다. 이렇게 하면 색상 서브샘플링이 이미 적용된 상태이므로, 이후 JPEG 압축 단계에서 추가적인 서브샘플링이 필요 없으며, 압축 효율이 유지된다. 둘째, I_g 를 기존 블록 스크램블링 절차에 따라 암호화한다. 구체적으로는 (1) 블록 크기 B_x×B_y 를 자유롭게 설정(8×8 이하 가능)하고, (2) 비밀키 K1에 의해 블록 순서를 무작위로 섞으며, (3) 비밀키 K2에 의해 각 블록을 0°, 90°, 180°, 270° 회전 및 좌·우 반전시킨다, (4) 비밀키 K3에 의해 블록 내 픽셀 값을 부호 반전(neg‑positive 변환)한다. 이 6단계 과정은 기존 색상 기반 암호화와 동일하지만, 블록 크기를 작게 함으로써 블록 수 N_b 가 크게 증가한다. 블록 수가 많아질수록 키 공간이 기하급수적으로 확대돼 brute‑force 공격에 대한 저항성이 크게 강화되고, jigsaw puzzle solver와 같은 ciphertext‑only 공격에서도 조각 맞추기가 어려워 보안성이 향상된다. 셋째, 압축 효율을 높이기 위해 새로운 양자화 테이블인 G‑table을 설계한다. 저자들은 다수(1338장)의 그레이스케일 기반 이미지에서 JPEG 압축 시 얻은 DCT 계수 D_n(i,j)의 원점(O)으로부터의 Euclidean 거리 c(i,j)를 평균내어 각 주파수 위치별 평균 거리 ¯c(i,j)를 구한다. 이후 ¯c(1,1)과 ¯c(i,j)의 비율에 ε=16을 더해 양자화 스텝 q(i,j)=⌈¯c(1,1)/¯c(i,j)⌉+ε 로 정의한다. 이 G‑table은 기존 Y‑table·CbCr‑table보다 더 세밀한 양자화를 제공해, 그레이스케일 이미지 특성에 맞는 고품질 압축을 가능하게 한다. 실험은 두 데이터셋을 사용했다. (a) MIT 데이터셋 20장(672×480)과 (b) UCID 1338장. 모든 이미지를 제안 방식과 기존 그레이스케일 방식(블록 8×8)으로 암호화한 뒤, JPEG 품질 인자 Q_f∈