죄수의 딜레마: 이기적 합리성이 빚어내는 역설
경제학에서 **죄수의 딜레마(Prisoner's Dilemma)**는 개인의 합리적인 선택이 집단 전체에게는 비합리적이고 비효율적인 결과를 초래할 수 있음을 보여주는 가장 유명하고 강력한 게임 이론의 사례입니다. 이 딜레마는 1950년 랜드 연구소의 메릴 플러드와 멜빈 드레셔에 의해 고안되었으며, 이후 앨버트 터커에 의해 '죄수'라는 흥미로운 설정이 덧붙여지며 대중화되었습니다.
딜레마의 기본 설정
두 명의 공범 A와 B가 중대한 범죄 혐의로 체포되어 서로 다른 방에 격리되어 취조를 받습니다. 이들은 서로 의사소통할 수 없으며, 경찰은 각자에게 다음과 같은 제안을 합니다.
| 죄수 A: 자백 | A: 5년, B: 5년 | A: 석방, B: 10년 |
| 죄수 A: 침묵 | A: 10년, B: 석방 | A: 1년, B: 1년 |
각 죄수의 합리적 선택은 무엇일까요?
죄수 A의 입장에서 생각해 봅시다.
- 만약 죄수 B가 자백한다면? A가 자백하면 5년형, 침묵하면 10년형을 받습니다. 따라서 A는 자백하는 것이 유리합니다.
- 만약 죄수 B가 침묵한다면? A가 자백하면 석방, 침묵하면 1년형을 받습니다. 따라서 A는 자백하는 것이 유리합니다.
결론적으로, 죄수 A는 죄수 B가 어떤 선택을 하든 자백하는 것이 자신에게 항상 유리합니다. 이러한 전략을 **우월 전략(Dominant Strategy)**이라고 부릅니다. 죄수 B의 입장도 동일합니다. 따라서 두 죄수 모두 자백하는 것이 각자에게 가장 합리적인 선택입니다.
이러한 각자의 최적 전략 선택의 결과, 두 죄수는 각각 5년씩 복역하게 됩니다. 이 상태는 누구도 자신의 전략을 일방적으로 바꿀 유인이 없는 **내쉬 균형(Nash Equilibrium)**을 이룹니다.
딜레마의 핵심: 개인의 합리성과 집단의 비효율성
죄수의 딜레마의 핵심은 바로 이 지점에 있습니다. 각 죄수가 자신에게 가장 합리적인 선택(자백)을 했음에도 불구하고, 그 결과는 두 사람 모두에게 최악의 결과를 초래합니다. 만약 두 죄수가 서로 협력하여 모두 침묵했다면, 각각 1년형만 받고 더 좋은 결과를 얻을 수 있었을 것입니다. 즉, 개인의 합리성이 집단 전체의 최적 해(Pareto 최적)와 일치하지 않는 모순이 발생하는 것입니다.
이것이 바로 '딜레마'이며, 게임 이론이 설명하는 가장 중요한 통찰 중 하나입니다.
경제학적 함의 및 현실 적용 사례
죄수의 딜레마는 단순히 두 죄수의 이야기로 끝나지 않고, 다양한 경제 및 사회 현상을 설명하는 데 폭넓게 활용됩니다.
- 담합의 불안정성: 과점 시장에서 기업들은 가격을 올리거나 생산량을 줄여 담합함으로써 더 큰 이윤을 얻을 수 있습니다. 그러나 각 기업의 입장에서는 담합을 깨고 혼자만 가격을 낮추거나 생산량을 늘리면 일시적으로 더 많은 이윤을 얻을 수 있는 유인이 생깁니다. 결국 모든 기업이 이러한 이기적인 선택을 하면 담합은 깨지고 모두에게 불리한 가격 경쟁으로 이어질 수 있습니다. 공정거래위원회의 자진신고자 감면제도(리니언시)는 이러한 죄수의 딜레마를 활용하여 담합을 와해시키려는 시도입니다.
- 공공재 문제 (무임승차): 국방, 도로, 공원과 같은 공공재는 비배제성과 비경합성의 특징을 가집니다. 즉, 비용을 지불하지 않아도 이용할 수 있고, 한 사람의 이용이 다른 사람의 이용을 방해하지 않습니다. 각 개인이 합리적으로 생각할 때, 자신은 비용을 지불하지 않고 다른 사람들이 공공재를 제공하게 두는 것이 이득입니다(무임승차). 그러나 모든 사람이 그렇게 생각하여 아무도 비용을 지불하지 않으면 공공재는 생산되지 않아 모두에게 손해가 됩니다.
- 환경 문제: 지구온난화와 같은 환경 문제는 대표적인 죄수의 딜레마 상황입니다. 각 국가가 탄소 배출을 줄이는 데 비용을 지불하기보다는, 다른 국가들이 줄이도록 내버려 둔 채 자신은 이득을 보려는 유인이 있습니다. 그러나 모든 국가가 이기적으로 행동하면 지구 전체는 더욱 심각한 환경 재앙에 직면하게 됩니다.
- 군비 경쟁: 두 국가가 서로 상대방보다 더 많은 무기를 보유하려는 군비 경쟁 역시 죄수의 딜레마로 설명될 수 있습니다. 평화를 유지하기 위해 서로 군비를 감축하는 것이 최선이지만, 상대방이 군비를 증강할 경우 자신만 뒤처지는 위험을 감수하기 어려워 결국 양국 모두 막대한 비용을 들여 군비를 증강하게 됩니다.
딜레마의 해결과 반복 게임
죄수의 딜레마는 이기적 합리성만으로는 협력이 어렵다는 것을 보여주지만, 현실에서는 협력이 자주 나타납니다. 이는 다음 요인들로 설명될 수 있습니다.
- 반복 게임(Repeated Game): 죄수의 딜레마가 일회성이 아니라 여러 번 반복되는 경우, 플레이어들은 상대방의 과거 행동을 바탕으로 자신의 전략을 조절할 수 있습니다. '팃포탯(Tit-for-Tat)' 전략(처음에는 협력하고, 이후에는 상대방의 직전 행동을 그대로 따라 하는 전략)은 반복 게임에서 가장 성공적인 전략 중 하나로 알려져 있으며, 협력을 유지하는 데 기여합니다.
- 신뢰와 명성: 장기적인 관계에서는 신뢰와 명성이 중요해집니다. 배신으로 인한 단기적 이득보다 장기적인 관계에서 얻는 협력의 이득이 더 크다는 것을 학습할 수 있습니다.
- 사회적 규범과 제도: 법적 구속력, 계약, 사회적 규범, 공동체 의식 등은 개인의 이기적인 행동을 제약하고 협력을 유도하는 장치로 작용합니다.
죄수의 딜레마는 경제학, 정치학, 사회학 등 다양한 분야에서 개인의 이기심과 집단적 효율성 간의 괴리를 설명하고, 협력을 이끌어내는 제도적 장치나 전략의 중요성을 강조하는 데 핵심적인 역할을 합니다.