친구: 근대 경제학의 아버지인 애덤 스미스의 이론을 생각해 봐. 경쟁에서 개개인의 야망은 집단의 이익에 이바지한다.
주인공: 애덤 스미스는 틀렸어.
주인공: 우리가 금발을 잡으려고 쟁탈전을 벌이면 아무도 잡지 못해. 꿩 대신 닭이라고 친구들에게 가면 그들은 우릴 매몰차게 무시할거야. 대타 기분 알잖아. 아무도 여자를 넘보지 않으면 쟁탈전도 없고 그녀 친구들의 기분도 안 상해. 그게 다 같이 이기는 길이야. 게다가 다 같이 즐기는 길이야. 애덤 스미스 왈 최고의 이익은 개개인이 그룹 안에서 자신의 이익을 위해 최선을 다 한다, 맞지? 불완전해. 최고의 이익은 자기 자신은 물론 소속된 집단을 위해서 최선을 다해야 실현돼.
존 내시, '균형이론'으로 뒤집어
이 대화를 마치고 의아해 하는 친구들을 뒤로 하고 야릇한 웃음을 띤 주인공은 맥주 집을 나와 자기 방으로 가서 자신의 이론이 맞는다는 것을 증명할 수 있는 방정식을 찾아내려고 노력한다. 이 연구는 창밖의 나무 가지에 눈이 쌓인 겨울에서 계절이 바뀌어 어느덧 파란 잎으로 변하는 봄까지 계속된다.
이 대화의 주인공은 2002년 국내에 개봉되어 많은 관람객들에게 큰 감동을 준 영화 ‘뷰티풀 마인드’의 존 내시(John Nash, 1928. 6. 13. ~ 2015. 5. 24.)이다. 이 영화는 1994년 노벨 경제학상을 수상한 존 내시의 실화를 그린 영화이다. 명문대 대학원 학생들의 치기어린 장난인 것처럼 보일 수도 있는 맥주 집에서의 에피소드가 그 유명한 내시의 ‘균형이론’을 탄생시켰다. 존 내시는 금과옥조처럼 대접받던 애덤 스미스(Adam Smith, 1723 ~ 1790)의 이론을 뒤집었다. 애덤 스미스에 의하면, 개개인이 자신의 이익을 극대화하기 위해 노력하면 집단은 자동으로 최선의 결과를 얻는다고 주장했다. 하지만 내시는 개인의 이익뿐만 아니라 집단의 이익을 극대화하도록 노력해야만 개인도 집단도 최대의 이익을 얻을 수 있다고 주장했다. 즉 상대의 행동 자체도 중요한 변인이 되어야 한다고 주장했다.
이미지 확대보기
모든 게임의 핵심은 참가자 상호작용
상대 전략 예상하고 자신 행위 결정
균형 이루어지는 최선의 선택 가능
이 경우, 만약 애덤 스미스의 이론을 따른다면 두 용의자가 각각 최선의 선택을 하면 두 사람에게 모두 이익이 된다. 그런데 두 용의자에게 최선의 선택은 과연 무엇일까? 이 게임의 경우 A에게 최선의 선택은 B의 결정에 달려 있다. 마찬가지로 B의 선택의 결과는 A에 달려 있다. 이런 상황에서는 애덤 스미스의 이론은 별로 타당하지 않다. A로서는 자백을 하고 B가 묵비권을 행사하는 것이 제일 좋은 경우이다. 그 경우에는 A는 풀려나기 때문이다. 그렇지만 B가 이런 선택을 할 확률은 극히 적다. 왜냐하면 B도 자신에게 제일 유리한 선택이 무엇인지를 판단하고 있을 것이기 때문이다. 따라서 A는 B가 어떤 선택을 하든지 관계없이 자백을 하는 것이 제일 좋은 선택이 된다. B도 마찬가지이다.
결국 검사는 두 용의자 모두에게 자백을 받아 5년형으로 기소한다. 그런데 두 용의자의 최선의 선택은 따로 있다. 서로 묵비권을 행사했다면, 모두 1년 복역으로 끝날 수 있었기 때문이다. 결국 각자의 이기적인 선택, 즉 자백이 두 사람 모두 5년 복역으로 귀결되는 딜레마인 셈이다. 애덤 스미스의 이론에 따르면 용의자 A와 B가 모두 최선의 선택인 자백을 할 것이다. 그러면 결국 각각 5년형을 받을 것이고, 더하면 10년형을 받게 된다. 하지만 만약 집단의 이익을 함께 고려해 둘 다 묵비권을 행사한다면 결국 1년씩 모두 2년형을 받게 된다. 여기서 중요한 점은 상대방이 두 사람 모두의 이익을 위해 묵비권을 행사할 것이라는 믿음이 있어야 한다는 것이다. 만약 동료가 자백하지 않는다는 확신만 있으면 묵비권을 행사하며 버티겠지만 문제는 상대가 어떻게 할지 전혀 짐작조차 할 수 없다는 데 있다. 자신은 상대를 믿고 버텼는데 그가 자신만의 이익을 위해 자백을 한다면 정작 묵비권을 행사한 자신은 10년형을 구형받게 된다. 이것이 바로 이 두 용의자가 처해 있는 딜레마 상황이다. 그리고 용의자 두 사람은 한 게임에 참가하고 있는 셈이 된다.
운동경기나 친구들끼리 재미삼아 하는 화투 게임에서부터 국가 간의 협상에 이르기까지 모든 게임의 참가자는 상대가 취할 전략을 예상하여 자신이 할 행위를 결정한다. 즉 모든 게임의 핵심은 참가자 간의 상호작용이다. ‘죄수의 딜레마’ 게임에서 최적의 선택을 하기 어려운 근본적 원인은 서로 격리되어 있어 협조할 수 없는 환경에 처해진다는 것이다. 만약 참여자가 서로 의논할 수 있다면 당연히 모두에게 제일 좋은 결과를 얻을 수 있는 선택을 할 수 있다. 하지만 이런 환경이 주어진다면 처음부터 게임 자체가 성립되지 않는다.
경쟁자들의 선택이 변할 필요성이 없어진 상태인 ‘내시 균형’은 상대의 전략을 예상할 수 있을 때 자신의 이익을 최대화하는 전략을 선택하여 형성된 균형 상태를 말한다. 상대의 대응에 따라 최선의 선택을 하면 균형이 형성되어 서로 자신의 선택을 바꾸지 않게 된다. 양쪽 모두 전략을 바꿀 이유가 없는 최적의 상태가 바로 ‘내시 균형’이다.
죄수의 딜레마 상황은 일상생활에서도 쉽게 발견할 수 있다. 대단위 아파트 단지 안에는 같은 업종의 가게들이 여럿이다. 이 가게 중 어느 한 가게에서 할인판매를 할 경우 당연히 손님이 이 가게에만 가게 될 것이다. 그러면 주위의 다른 가게들은 손님이 줄어 매상이 줄게 마련이다. 당연히 다른 가게에서도 각각 할인을 하지 않을 수 없다. 물론 소비자 입장에서는 이익이지만 가게 주인의 입장에서는 서로 협조하여 할인을 하지 않는 것이 제일 좋은 결정이다. 하지만 공개적으로 할 수 없다. 주인들이 서로 의논하여 가격을 결정하면 ‘담합(談合)’이 된다. 담합은 문자 그대로 ‘이야기하여 결론을 내는 것’이다. 물론 법으로 담합을 엄격하게 규제하는 것은 말할 필요도 없다. 모든 사람에게 최선인 ‘내시 균형’을 이루려면 서로에 대한 신뢰를 회복할 필요가 있으며 상호 신뢰를 바탕으로 배반하지 않겠다는 약속이 지켜져야만 한다.
사족을 붙이자면, 내시와 부인 알리샤는 2015년 5월 뉴저지에서 택시를 타고 이동하던 중 교통사고를 당해 사망했다. 경찰 발표에 따르면 당시 내시 부부가 타고 있던 택시가 지나가던 차량을 피하려다 중심을 잃고 가드레일과 충돌했다고 한다. 조현증이라는 정신질환을 앓으면서도 노벨상을 수상할 만큼 큰 공헌을 한 내시 박사와 그의 곁에서 고락을 함께 하며 지성으로 보살펴준 알리샤의 영전에 삼가 조의를 표한다.
이미지 확대보기
한성열 고려대 교수
