몬티홀 문제는 확률 퍼즐이 아니다

이 논문은 “몬티홀 문제는 확률 퍼즐이 아니다(그것은 수학적 모델링의 도전이다)”라는 제목 아래, 전통적인 베이즈 정리를 이용한 해법이 숨은 전제에 지나치게 의존하고 있음을 비판한다. 저자는 먼저 문제를 네 단계의 행동—자동차 배치(Car), 플레이어 초기 선택(P1), 진행자에 의한 염소 공개(Goat), 최종 선택(P2)—로 나누어 각각을 확률 변수로 모델링한다. 이때 기본적인 구조적 조건만을 가정하고, 자동차 위치와 플레이어 초기 선택이 독립이며, 진행자는 플레이어가 선택한 문이 아닌 다른 문을 열어야 한다는 사실만을 전제로 한다. 그 다음, 기존 문헌에서 흔히 사용되는 “조건부 확률을 계산하면 스위치가 2/3의 승률을 갖는다”는 논증을 세 단계로 분석한다. 첫 번째 단계는 초기 선택이 1/3 확률로 정답이라는 단순한 관찰(Prop. 1)이다. 두 번째 단계에서는 모든 문이 동등하게 자동차를 숨길 확률이 있다는 가정 하에, 진행자가 선택할 여지가 있을 때 두 남은 문을 동등하게 열 확률을 가정한다(Prop. 2). 이때 베이즈 정리를 적용하면 스위치의 조건부 승률이 최소 1/2가 되고, 전체 승률은 2/3가 된다. 세 번째 단계에서는 앞의 두 가정을 모두 받아들여 대칭성을 이용해 조건부 승률이 무조건 2/3임을 보인다(Prop. 3). 하지만 저자는 이러한 접근이 “솔루션 주도 과학”이라고 비판한다. 즉, 문제를 해결하기 위해 필요한 가정을 명시적으로 제시하지 않고, 독자에게 “당연히” 받아들여야 할 전제로 삼는다는 것이다. 이를 뒷받침하기 위해 Selvin(1975)의 두 논문, Morgan et al.(1991)의 논쟁, Rosenhouse(2009)의 서적 등을 검토한다. 대부분의 저자는 베이즈 정리를 적용하기 위해 “자동차는 무작위, 진행자는 무작위 선택”이라는 전제를 숨겨두고, 실제 진행자의 행동 규칙이 무엇인지에 대한 논의 없이 결과만을 제시한다. 논문은 이러한 문제점을 보완하기 위해 게임 이론적 관점을 도입한다. 진행자와 플레이어를 각각 최소극대 전략을 구하는 두 플레이어로 모델링하고, 진행자는 자신의 선택이 플레이어에게 불리하도록, 플레이어는 최악의 경우에도 최대 승률을 확보하도록 전략을 수립한다. 이때 최소극대 정리에 의해 “항상 스위치”가 최적 전략임이 증명된다. 중요한 점은 이 증명이 진행자의 선택 규칙이 어떠하든(예: 특정 문을 선호하거나 비대칭적인 확률을 가질 경우에도) 스위치가 최소 승률 2/3을 보장한다는 것이다. 즉, 확률적 가정에 의존하지 않고도 최적 전략을 도출할 수 있다. 논문은 마지막으로 세 가지 명제를 정리한다. 1) 초기 선택이 1/3 확률로 정답이면 스위치는 무조건 2/3 승률을 갖는다. 2) 모든 문이 동등하게 자동차를 숨길 확률이 있을 때, 스위치의 조건부 승률은 최소 1/2이며 전체 승률은 2/3이다. 3) 앞의 두 가정을 모두 만족하고 진행자의 선택이 대칭적일 때, 스위치의 조건부 승률도 무조건 2/3이며, 이는 최소극대 정리를 통해 일반화될 수 있다. 결론적으로 저자는 몬티홀 문제를 확률 퍼즐이 아니라, 명확한 가정과 구조를 갖춘 수학적 모델링 과제로 재정의한다. 이를 통해 교육 현장에서 학생들이 숨은 전제를 인식하고, 문제를 올바르게 모델링하는 능력을 기를 수 있음을 강조한다. 또한, 확률적 도구는 유용하지만, 그 사용이 전제 없이 이루어질 경우 오히려 오해를 낳을 수 있음을 경고한다.