게임 이론과 합리성, 그리고 행동경제학의 접점
경제학은 오랫동안 인간을 '합리적 경제인(Homo Economicus)'으로 가정하고, 이들이 자신의 효용이나 이윤을 극대화하는 방향으로 의사결정을 내린다고 보아왔습니다. 이러한 합리성 가정을 바탕으로 발전한 대표적인 도구가 바로 **게임 이론(Game Theory)**입니다. 게임 이론은 상호 의존적인 의사결정 상황, 즉 한 사람의 선택이 다른 사람의 결과에 영향을 미치고, 그로 인한 다른 사람의 행동 변화가 다시 자신의 결과에 영향을 미치는 전략적 상호작용을 분석하는 수학적 틀입니다.
하지만 현실의 인간은 게임 이론이 상정하는 완벽한 합리성과는 거리가 멀다는 점이 속속 드러나면서, **행동경제학(Behavioral Economics)**이 등장하여 이 간극을 메우고 있습니다.
1. 게임 이론: 합리성의 보고
게임 이론은 '죄수의 딜레마', '치킨 게임', '내쉬 균형' 등 다양한 개념을 통해 협력과 경쟁, 정보의 비대칭성 등 복잡한 사회적 상호작용을 분석합니다. 이 이론의 핵심 전제는 다음과 같습니다.
- 플레이어의 합리성: 게임에 참여하는 모든 플레이어는 자신의 이득을 극대화하기 위해 합리적으로 행동한다고 가정합니다. 즉, 주어진 정보와 상황에서 최적의 전략을 선택할 능력이 있다고 봅니다.
- 완전한 정보(또는 공유된 정보): 플레이어들은 게임의 규칙, 가능한 전략, 각 전략 조합에 따른 보수(payoff)를 알고 있다고 가정합니다. 때로는 정보가 불완전하거나 비대칭적일 수 있지만, 그 불완전성조차도 모든 플레이어가 알고 있다는 것이 전제됩니다.
- 상대방의 합리성 예측: 각 플레이어는 상대방 역시 자신과 마찬가지로 합리적으로 행동할 것이라고 예측하고, 그에 따라 자신의 전략을 수립합니다.
이러한 가정 덕분에 게임 이론은 과점 시장의 기업 전략, 국가 간 외교 정책, 사회적 딜레마 등 다양한 분야에서 강력한 분석 도구로 활용되어 왔습니다.
2. 행동경제학: 합리성 가설에 대한 도전
그러나 현실에서는 게임 이론의 예측과 다른 결과가 나타나는 경우가 많습니다. 사람들은 종종 감정, 직관, 사회적 규범, 인지적 한계 등에 기반하여 '비합리적'으로 보이는 선택을 합니다. 이러한 인간 행동의 심리적, 사회적 요인을 경제학에 통합하려는 시도가 바로 행동경제학입니다.
행동경제학이 게임 이론의 합리성 가정에 던지는 주요 질문과 발견은 다음과 같습니다.
- 제한된 합리성(Bounded Rationality): 허버트 사이먼이 제시한 개념으로, 인간은 인지 능력, 정보 처리 능력, 시간 등의 제약으로 인해 완전하게 합리적인 의사결정을 할 수 없다는 주장입니다. 사람들은 모든 가능한 대안을 탐색하고 계산하기보다는, '만족할 만한(satisficing)' 수준에서 결정을 내리는 경향이 있습니다. 이는 게임 상황에서 모든 가능한 전략 조합을 완벽히 예측하고 최적의 해를 찾는 것이 어렵다는 것을 의미합니다.
- 인지 편향(Cognitive Biases): 대니얼 카너먼과 아모스 트버스키를 비롯한 행동경제학자들은 인간이 의사결정 과정에서 다양한 인지 편향에 영향을 받는다는 것을 실험적으로 밝혀냈습니다.
- 손실 회피(Loss Aversion): 이득보다 손실을 더 크게 느끼는 경향. 이는 게임 상황에서 '현재 상태 유지' 편향으로 이어져, 위험을 회피하는 쪽으로 의사결정이 이루어질 수 있습니다.
- 현재 편향(Present Bias): 미래의 큰 보상보다 현재의 작은 보상을 선호하는 경향. 이는 장기적인 전략적 사고를 방해하고 단기적인 이득에 매몰되게 할 수 있습니다.
- 앵커링 효과(Anchoring Effect): 처음에 주어진 정보(기준점)에 강하게 영향을 받아 이후의 판단을 내리는 경향. 이는 게임의 초기 조건이나 제시된 숫자에 따라 플레이어의 전략 선택이 달라질 수 있음을 시사합니다.
- 확증 편향(Confirmation Bias): 자신의 기존 신념을 확인시켜주는 정보만을 수용하고, 반대되는 정보는 무시하는 경향. 이는 상대방의 행동을 잘못 예측하거나 자신의 전략이 틀렸음을 인정하지 못하게 만들 수 있습니다.
- 사회적 선호(Social Preferences): 전통적인 게임 이론은 이기심을 전제로 하지만, 행동경제학 실험(예: 최후통첩 게임, 공정성 게임)에서는 사람들이 이타심, 공정성, 상호성 등 사회적 선호에 따라 행동하는 경향을 보입니다. 불공정한 제안을 거부하여 자신도 손해를 보더라도 상대방에게 불이익을 주거나, 보복하려는 행동 등이 이에 해당합니다. 이는 게임 균형 예측을 복잡하게 만듭니다.
- 감정의 역할: 두려움, 분노, 신뢰, 죄책감 등 다양한 감정은 의사결정에 중요한 영향을 미칩니다. 몬티홀 딜레마에서 사람들이 쉽게 선택을 바꾸지 못하는 것은 손실에 대한 두려움이나 자신의 첫 선택에 대한 집착 같은 감정 때문일 수 있습니다.
3. 게임 이론과 행동경제학의 상호 보완적 관계
행동경제학은 게임 이론의 '합리적 인간'이라는 추상적인 가정이 현실을 설명하는 데 한계가 있음을 보여주었지만, 이는 게임 이론의 무용지물을 의미하지 않습니다. 오히려 두 분야는 상호 보완적인 관계를 맺으며 더욱 풍부한 분석을 가능하게 합니다.
- 게임 이론의 적용 범위 확장: 행동경제학적 통찰은 게임 이론 모델에 인간의 인지적 한계나 사회적 선호를 반영하여, 보다 현실적인 예측을 가능하게 합니다. 예를 들어, 반복 게임에서 협력이 발생하는 이유를 단순히 이기적인 합리성뿐만 아니라 '신뢰'나 '평판'과 같은 행동경제학적 요소로 설명할 수 있습니다.
- 정책 설계에의 활용: 인간의 비합리적 행동 패턴을 이해하면, 이를 고려한 정책 설계(소위 '넛지' 전략)가 가능해집니다. 정부는 사람들이 합리적으로 행동하지 않을 때에도 바람직한 방향으로 유도할 수 있는 '행동 기반 정책'을 수립할 수 있습니다.
- 실험 경제학의 발전: 행동경제학은 실제 사람들을 대상으로 게임을 수행하고 그 결과를 분석하는 '실험 경제학'을 활성화시켰습니다. 이를 통해 이론적 예측과 실제 행동 간의 차이를 실증적으로 검증하고, 새로운 이론을 구축하는 데 기여합니다.
결론적으로, 게임 이론은 전략적 상호작용의 구조를 이해하는 데 탁월한 도구이며, 행동경제학은 그 구조 안에서 인간이 실제로 어떻게 행동하는지에 대한 깊은 통찰을 제공합니다. 이 두 분야의 융합은 경제학이 현실의 복잡한 인간 행동과 사회 현상을 더욱 정확하게 이해하고 예측하는 데 필수적인 방향이 되고 있습니다.