XR에서 인간·AI 공생을 위한 자율성 설계 프레임워크 Self++

본 논문은 확장현실(XR) 환경에서 인간과 인공지능(AI) 간의 공생적 관계를 설계하기 위한 ‘Self++’라는 청사진을 제시한다. 저자는 XR이 감각적 증거와 행동을 동시에 변형시키는 특성 때문에, AI의 ‘도움’이 과도한 의존, 은밀한 설득, 책임 흐림 등 위험을 내포할 수 있음을 지적한다. 이를 해결하기 위해 두 가지 이론적 토대를 결합한다. 첫 번째는 인간의 기본 심리적 욕구인 자율성, 역량, 관계성을 강조하는 자기결정이론(Self‑Determination Theory, SDT)이다. 두 번째는 생물학적 시스템이 환경과의 상호작용을 통해 자유 에너지(free energy)를 최소화함으로써 예측 오류를 줄이고 안정성을 유지한다는 자유 에너지 원리(Free Energy Principle, FEP)이다. SDT는 ‘무엇을 유지해야 하는가’를, FEP는 ‘왜 유지가 어려워지는가’를 설명한다. 이 두 이론을 바탕으로 저자는 **공동 결정(co‑determination)**이라는 개념을 도입한다. 인간과 AI를 ‘결합된 시스템’으로 보고, 양측의 의도와 한계를 명시적으로 드러내며, 지원 수준을 시간에 따라 조정하고, 사용자가 언제든지 시스템의 제안을 승인·거부·수정할 수 있는 권리를 보장한다. 이를 구체화한 것이 **T.A.N. 원칙**이다. - **투명성(Transparency)**: AI의 추론 과정, 불확실성, 목표 등을 사용자에게 공개해 숨겨진 상태를 최소화한다. 이는 사용자가 AI 행동을 예측하고 신뢰를 적절히 조정하도록 돕는다. - **적응성(Adaptivity)**: 사용자의 역량 변화와 상황 변동에 따라 지원 강도를 동적으로 조절한다. 정적인 지원은 과도한 개입으로 자율성을 침해하거나, 반대로 지원이 부족하면 역량 발달을 저해한다. - **협상성(Negotiability)**: 사용자가 AI 제안을 수용·거부·수정할 수 있는 인터페이스와 ‘승인‑취소‑롤백’ 루프를 제공한다. 이를 통해 최종 행동에 대한 최종 저자를 유지한다. Self++는 이러한 원칙을 세 개의 **동시 활성화 가능한 오버레이**에 적용한다. 1. **Self (역량 오버레이)** – 사용자의 감각‑운동 능력을 보강한다. 여기서는 ‘Tutor’, ‘Skill Builder’, ‘Coach’라는 세 가지 역할 패턴이 제시된다. 예시로 전기 배선 교육에서 방향 화살표와 손 모형을 제공하거나, 외과 시뮬레이션에서 실시간 움직임 트래킹과 정확도 히트맵을 제공한다. 2. **Self+ (자율 오버레이)** – 의사결정과 작업 위임을 지원한다. ‘Choice Architect’, ‘Advisor’, ‘Agentic Worker’ 역할이 포함된다. 예를 들어, 일정 관리에서 부드러운 강조와 확인 절차를 제공하거나, 응급실 의사가 불확실성 밴드와 AI 예측을 시각화해 대안을 검토하도록 돕는다. 3. **Self++ (관계·목적 오버레이)** – 사회적 정체성, 협업, 장기 목표 정렬을 다룬다. ‘Contextual Interpreter’, ‘Social Facilitator’, ‘Purpose Amplifier’ 역할이 있다. 소방관이 현장에 도착했을 때 팀 역할과 건물 구조를 AR로 표시하거나, 외교 협상에서 발언 시간과 입장 요약을 제공하고, 은퇴 운동선수가 미래 가치 지도를 보며 목표를 재구성하도록 돕는다. 각 역할은 ‘패턴’으로 정의되어 AI의 ‘페르소나’가 아니라 상황에 맞는 인터랙션 설계 요소로 활용된다. 이는 다양한 도메인에 유연하게 적용 가능하도록 설계된 점이다. 논문은 또한 문화·철학적 관점을 통합한다. 불교의 무아(anatta)·마오리의 관계적 정체성 등은 자율성을 개인 중심이 아닌 관계망 속 책임감으로 재해석한다. 따라서 Self++는 **절차적 윤리**를 채택해, 어떤 가치가 우선인지 강제하지 않으며, 투명·적응·협상이라는 설계 원칙을 통해 다양한 문화적 규범에 맞게 조정될 수 있도록 한다. 이는 AI 설계가 특정 문화적 전제에 얽매이지 않도록 하는 중요한 방어 메커니즘이다. 실제 적용 사례를 통해 저자는 각 역할 패턴이 어떻게 구현될 수 있는지를 구체적으로 보여준다. 전기 배선 훈련에서 ‘Tutor’는 안전한 학습 경로를 제공하고, ‘Skill Builder’는 변동성을 주어 일반화 능력을 키운다. ‘Coach’는 실시간 피드백과 스트레스 상황에서의 자기 교정을 지원한다. ‘Choice Architect’는 일정 선택 시 부드러운 강조와 확인 절차를 제공해 사용자가 스스로 결정을 내리도록 돕는다. ‘Advisor’는 의료 진단에서 불확실성 밴드와 AI·전문의의 기여를 구분해 보여준다. ‘Agentic Worker’는 항공 관제에서 AI가 제안한 경로를 인간이 검토·승인·롤백할 수 있게 한다. ‘Contextual Interpreter’는 화재 현장에서 팀 역할과 건물 정보를 실시간으로 표시해 혼란을 최소화한다. ‘Social Facilitator’는 외교 협상에서 발언 균형과 요약을 제공해 협업을 촉진한다. ‘Purpose Amplifier’는 은퇴 운동선수가 미래 가치 지도를 보며 장기 목표를 재구성하도록 돕는다. 마지막으로 논문은 **평가 프레임워크**를 제안한다. 기존 자동화 연구에서 흔히 보는 ‘인간 vs AI’ 성과 비교를 넘어, 인간‑AI 팀의 **공생적 성과(symbiotic performance)**를 다차원적으로 측정한다. 여기에는 정확도·효율성 외에도 자율성 보존 정도, 역량 성장률, 사회적 연결감, 협상 행동 빈도 등이 포함된다. 이러한 지표는 시스템이 인간의 심리적 필요와 예측적 안정성을 얼마나 잘 지원하는지를 정량화한다. 결론적으로, Self++는 XR‑AI 시스템이 인간의 판단을 대체하지 않고 보강하도록 설계하는 포괄적인 청사진이다. 투명·적응·협상이라는 구체적 원칙과 3개의 오버레이·9개의 역할 패턴을 통해 설계·구현·평가 전 단계에 적용 가능한 실용적 가이드를 제공한다. 이는 향후 XR 기반 작업, 학습, 사회적 상호작용에서 인간 중심의 AI 활용을 위한 중요한 이정표가 될 것이다.