실제 사용자를 위한 AI 설계 소매 AI 프론트엔드 접근성 격차

이 논문은 AI가 고객과 직접 마주하는 소매 환경에서 어떻게 설계되고 배포되는지를 검토하면서, 특히 장애를 가진 사용자가 겪는 접근성 격차에 초점을 맞춘 실천 중심의 비판적 고찰이다. 서론에서는 현재 AI 윤리 논의가 모델·데이터·거버넌스에 치중하고, 사용자 경험—특히 프론트엔드 디자인—은 소홀히 다루어진다는 점을 지적한다. 저자는 “이상적인 사용자”라는 가정이 내재된 설계가 장애인에게는 배제적이며, 이는 전 세계 10억 명 이상의 장애인 인구를 고려할 때 심각한 윤리적 문제임을 강조한다. 2장에서는 ‘이상적인 사용자’ 가정이 어떻게 형성되는지를 세 가지 관점에서 분석한다. 첫째, 시장 최적화 지표가 시각·신경전형 사용자를 전제로 하여 설계 선택을 유도한다. 둘째, 조달 단계에서 벤더가 제공하는 AI 모듈은 접근성 옵션을 선택 사항으로 두고, 계약서에 접근성 요구를 명시하지 않음으로써 설계 초기부터 배제 메커니즘을 내재화한다. 셋째, 규제 환경을 살펴보면, EU의 디지털 접근성법(EAA)은 디지털 서비스 전반에 접근성을 요구하지만 AI 전용 규제인 AI법은 고위험 AI에만 적용돼 소매 AI 프론트엔드에는 직접적인 규제 압력이 부족하다. 이러한 구조적 요인들이 ‘이상적인 사용자’ 모델을 지속시키는 근본 원인으로 제시된다. 3장에서는 소매 AI 프론트엔드의 구체적 사례 세 가지—가상 착용(Virtual Try‑On), 하이퍼 개인화 랭킹(Hyper‑Personalised Ranking), 대화형 AI 지원(Conversational AI)—를 통해 접근성 결함을 상세히 드러낸다. 가상 착용은 시각적 오버레이와 이미지 매핑에 의존해 시각·저시력 사용자는 제품을 확인할 방법이 없으며, 음성·텍스트 설명이 부재하면 ‘접근성 향상’이라는 명목만 남는다. 하이퍼 개인화 랭킹은 색상·배지·위치 기반 시각적 힌트를 사용해 시각·인지 장애인뿐 아니라 색채 인식이 어려운 노년층에게도 의사결정 로직을 투명하게 전달하지 못한다. 대화형 AI는 화면 낭독기와 키보드 포커스 관리가 미흡해, 장애인 사용자가 고객 서비스·환불 절차를 수행할 때 권리 침해 위험이 커진다. 각 사례는 기술적 한계가 아니라 설계·조달·규제의 구조적 결함에서 비롯된다는 점을 강조한다. 4장에서는 이러한 실패가 지속되는 원인을 네 가지 요인으로 정리한다. (1) 성과 최적화 지표가 다수 사용자 행동에만 초점을 맞추어 장애인 행동을 무시한다. (2) 기존 UI 컴포넌트를 재사용하면서 접근성 재평가를 하지 않는다. (3) 조달 계약에서 접근성을 요구하지 않는다. (4) 규제 해석의 모호성으로 기업이 접근성 구현을 회피한다. 5장에서는 ‘프론트엔드 보증(Front‑End Assurance)’이라는 새로운 거버넌스 레이어를 제안한다. 이는 접근성 테스트, 투명성 점검, 사용자 주체성 감사, 일관성 평가 네 가지 핵심 요소로 구성된다. 접근성 테스트는 장애 그룹별로 설명·동의·대체 인터랙션을 인지할 수 있는지를 검증하고, 투명성 점검은 불확실성·설득 힌트가 의미론적으로 노출되는지를 확인한다. 사용자 주체성 감사는 사용자가 기본값을 재설정하거나 인간 상담을 요청할 수 있는지를 평가하며, 일관성 평가는 개인화 수준에 따라 공개·옵션이 변동하지 않는지를 검증한다. 또한 기존 AI 공정성 메트릭을 인터랙션 수준(작업 완료율, 오류율 등)으로 확장하고, 장애 카테고리의 교차성을 고려한 그룹 정의가 필요함을 강조한다. 결론에서는 AI 프론트엔드가 사용자의 선택과 권리에 직접적인 영향을 미치므로, 접근성을 설계·조달·거버넌스 전 단계에 내재화해야 윤리적 AI가 실현될 수 있다고 주장한다. 접근성을 ‘후속 보완’이 아닌 핵심 설계 요구사항으로 전환함으로써, 기업은 법적·윤리적 위험을 감소시키고, 모든 사용자에게 향상된 사용성·신뢰성을 제공할 수 있다.