확률 문제

나 같은 보통 정도의 두뇌를 가진 사람에게 확률은 이해하기 어렵기만 하다.

얼마전 회사 동료 한 명이 간단한 확률 문제를 물었다. 하트, 다이아몬드, 스페이드, 클로버가 각각 13장씩 있는 총 52장의 카드에서 1장을 골랐을때 이 카드가 하트일 확률은 얼마인가 하는 문제였다. 여기까지는 쉽게 생각할 수 있다. 13/52 = 1/4다. 동료가 문제를 약간 변형해 질문했다. 52장의 카드 중 1장을 골라 따로 보관한 다음, 3장을 추가로 골라 뒤집어보니 모두 하트가 아니었다. 이때 처음 고른 카드가 하트일 확률은 얼마일까?

사실은 이걸 물어보려 했던 것이었다.

처음에는 당연히 1/4라고 생각했다. 처음 카드를 고른 사건과 그 뒤에 추가로 3장의 카드를 고른 사건은 서로 독립이기 때문에 처음 확률에 영향을 미치지 않을 것이라 생각했다. 여기까지는 내가 문제를 제대로 이해하고 있다고 생각하고 있었다.

그러자 동료가 몬티홀(Monty Hall) 문제를 다시 언급했다. 간단히 설명하면, 세 개의 문 중 하나의 문 뒤에 선물이 숨어있고 출연자는 이 중 하나를 선택할 수 있다. 출연자가 문을 선택하면 진행자는 출연자가 선택하지 않은 다른 두 문 중에서 선물이 없는 문을 열어준다. 이제 두 문 중 한 쪽에 선물이 있는 것이다. 그리고 출연자는 처음 선택한 문을 고수할지, 아니면 다른 쪽 문으로 바꿀지 선택을 할 수 있다. 어떻게 하는 것이 유리할까?

선택을 바꾸는 것이 유리하다. 두 개의 문 중 한 쪽에 선물이 있기 때문에 대부분의 사람들은 확률은 1/2라고 생각한다. (사실 나도 이 범주에 속한다.) 그러나 선택을 바꾸는 것이 유리하다는 점은 이미 수학적으로도 증명이 되어 있다. 위키피디아 Monty Hall problem(한글: 몬티홀 문제) 페이지를 보면 문제에 대한 자세한 설명, 해법, 증명, 시뮬레이션, 문제의 역사까지 나와 있다. 설명을 읽어보면 이해가 되는 듯 하다가도 뭔가 석연치않은 구석이 있다. 완전하게 이해하지 못해서 그런 것일 게다.

조금 다른 문제를 생각해보자. 러시안 룰렛 게임. 6연발 리볼버에 총알을 하나 넣고 총알의 위치를 알 수 없도록 탄창을 돌렸다. 방아쇠를 당겼을 때 총알이 발사될 확률은 얼마일까? 처음에는 1/6일 것이다. 그럼 처음 방아쇠를 당겼을 때 총알이 발사되지 않은 경우, 그 다음 방아쇠를 당길 경우 총알이 발사될 확률은 얼마일까? 처음 방아쇠를 당겼을 때 약실 하나가 비어있는 것을 확인했다. 이제 남아있는 약실 5개 중 하나에 총알이 있을 것이므로 방아쇠를 당겼을 때 총알이 발사될 확률은 확률은 1/5이 되어야 할 것이다. 이때도 총알이 발사되지 않는다면 그 다음 방아쇠를 당겼을 때 총알이 발사될 확률은 1/4일 것이다. 방아쇠를 당길 때마다 약실에 총알이 있는지 없는지를 확인하는 것이기 때문에, 남아있는 경우의 수를 가지고 확률을 계산하는 것이 타당할 것 같다.

이런 방식으로 다른 문제도 생각해보자. 카드 문제의 경우 나머지 3장을 뒤집어 확인을 했으므로 남아있는 가능성을 생각해보면 처음 고른 카드가 하트일 확률은 13/(52-3) = 13/49가 되어야 하는 것 아닐까? 물론 나중에 고른 3장의 카드를 뒤집어 확인하지 않는다면 처음 선택한 카드가 하트일 확률도 그대로 1/4가 맞을 것이다.

몬티홀 문제에서도 진행자가 문을 하나 열어 선물이 없다는 것을 확인했기 때문에 남아있는 경우의 수에 대해 확률을 다시 계산해야 하고 따라서 남아있는 두 문 모두 선물이 있을 확률은 1/2가 되어야 하는 것 아닐까? 그러나 몬티홀 문제는 이미 수학적으로도 증명이 되었고 그 증명에 따르면 이 생각은 틀리다. 확률을 명확하게 이해하지 못하는 나보다는 다른 똑똑한 사람들의 설명이 맞을 것 같기는 하다.

카드 문제, 몬티홀 문제, 러시안 룰렛 게임... 모두 비슷한 확률 문제인 것 같은데 명확하게 이해가 되지는 않는다. 그저 머리가 좋지 못한 것을 탓할 수밖에 없을 듯 하다.