내쉬 균형’ 이론으로 노벨 경제학상을 받은 존 내쉬 교수 (프린스턴 대학교 명예교수)가 지난 5월 사망했다. 그가 제시한 ’내쉬 균형‘은 사회·경제 각 분야에서 발생하는 선택과 결과를 잘 설명해준다. 각종 사회 갈등을 합리적으로 풀 수 있는 ’내쉬 균형‘ 이론에 대해 다시 한번 생각해 본다.
영화 뷰티풀 마인드의 주인공이자 노벨 경제학상을 받은 수학자 존 내쉬(86) 부부가 얼마 전 사망했다. 노르웨이에서 개최된 ’아벨상‘ 수상식에 참석하고 돌아오는 길에 택시를 탔다가 사고를 당해 부부가 함께 목숨을 잃었다. 수학계의 노벨상이라 불리는 아벨상 수상 직후 너무나도 극적인 최후를 맞이한 터라 한 편의 드라마 같은 느낌을 받았다. 내쉬 교수는 게임이론의 하나인 ’ 내쉬 균형‘ 을 창안한 공헌으로 1994년 노벨 경제학상을 수상하기도 했다.
’내쉬 균형‘은 ’죄수의 딜레마‘ 게임에서 발전했다. ’죄수의 딜레마‘는 서로 의사소통이 안 되는 독립된 밀폐공간에 갇힌 두 죄수(A와 B라 하자)의 이야기이다. 두 죄수는 각각 두 가지 중 하나의 전략을 선택하게 되어 있다. 상대방의 비리를 폭로하는 전략과 폭로하지 않는 전략 중 하나를 선택한다. 이를 각각 폭로 전략과 묵비 전략이라고 해보자. 흔히들 자백이라고 표현하는데 자백은 본인의 죄를 고하는 것이니 여기에는 잘 어울리지 않는다. 상대방의 죄에 대해 폭로하든지 침묵하든지 둘 중 하나를 한다는 것이다.
A와 B 두 죄수는 각각 폭로와 묵비 두 가지 전략을 선택할 수 있다. 이렇게 되면 나올 수 있는 결과는 모두 네 가지다. 이 게임에서 흥미 있는 건 선택의 결과이다. 내쉬가 제시한 결과는 이렇다. 만일 둘 다 묵비를 선택하면 둘 다 1년씩 형을 받게 된다. 만일 둘 다 폭로를 선택하면 각각 5년씩 형을 받게 된다. 따라서 두 죄수로 구성된 사회 에선 둘 다 묵비를 선택하는 상황이 둘 다 폭로를 선택하는 상황보다 훨씬 유리하다.
그런데 이 게임의 백미는 엇갈릴 때 나타난다. 한 죄수가 묵비를 선택하고 다른 죄수는 폭로를 선택하는 경우다. A가 묵비, B가 폭로를 선택하면 폭로한 B는 무죄로 석방되고 모든 죄는 묵비를 선택한 A가 뒤집어 쓰게 되어 10년형을 받게 된다. 10년형은 둘 다 폭로를 한 경우에 받는 5년형보다 훨씬 큰 벌이다. 반대로 A가 폭로를 하고 B가 묵비를 선택하는 경우, 폭로한 A는 석방이 되고 B는 10년형을 짊어지게 된다. 서로 의사소통이 안 되는 상황에서 한쪽은 상대방을 배려해 묵비를 선택하고, 다른 쪽은 폭로를 선택할 경우 묵비를 선택한 쪽이 모든 죄를 뒤집어 쓰게 된다는 것이다. 혼자 뒤집어쓸 가능성이 존재하는 상황을 전제로 내쉬 교수는 그 유명한 ’내쉬 균형‘을 다음과 같이 제시한다.
우선 A 입장에서 보자. ①B가 묵비를 선택한다면 나는 폭로가 낫다. 왜냐하면 B가 모든 죄를 다 뒤집어쓰고 나는 석방될 것이기 때문이다. ②만일 B가 폭로를 선택한다면 나도 폭로하는 것이 낫다. 내가 묵비를 선택 할 경우 내가 모든 걸 뒤집어 써 10년형을 받기 때문이다. 따라서 나는 폭로를 선택하는 것이 낫다. A 입장에선 B가 묵비를 선택하든 폭로를 선택하든 어떤 경우에도 폭로를 하는 것이 유리하게 된다.
B 입장에서도 마찬가지다. ①A가 묵비이면 나는 폭로하는 것이 낫다. ②A가 폭로이면 나도 폭로하는 것이 낫다(위의 논리를 A와 B를 바꾸어 그대로 적용하면 된다). 결국 B도 폭로를 선택한다. 그렇게 되면 A와 B로 구성된 사회에선 최악의 결과가 나타난다. 서로 상대방 비리를 폭로하고 5년씩 형을 살게 된다는 것이 그 유명한 ’ 내쉬 균형‘이다. 서로 침묵하면 1년으로 끝나는데도 말이다.
자본주의 시장경제는 개인들이 각자 이기적인 동기를 가지고 최선을 다할 때 사회적으로 가장 최적의 결과가 도출된다는 믿음에 기초해있다. “네가 아침에 빵과 우유를 먹을 수 있는 건 제빵업자와 낙농업자가 이타적이 아니라 이기적이기 때문”이라는 아담 스미스의 말에 이 같은 의미가 잘 나타나 있다. 그러나 여기에 비춰보면 죄수의 역설을 통해 내쉬가 던진 화두는 꽤 무겁게 느껴진다. 각자 나름 최선을 다해 선택을 하지만 최악의 과가 나타날 수도 있다는 것이다.
이 게임에는 일회성이라는 점과 서로 간 의사소통이 안 된다는 점이 전제로 깔려 있다. 만약 되풀이 되는 게임이라면 학습효과에 의해 둘 다 침묵을 선택할 가능성이 커진다. 또 서로 의사소통이 잘되는 경우에도 침묵할 가능성이 커질 수 있다.
이 이론은 광범위한 대상에 적용이 가능하다. 예를 들어 노사관계에도 적용 여지가 있다. 흔히 노사는 대립을 선택하면서 양측이 모두 강경을 선택하는 경우가 많다. 둘 다 온건을 선택하면 문제가 잘 해결되는데도 굳이 강경으로 가면서 협상이 결렬되는 경우가 다반사다. 내쉬의 이론은 이 부분에 잘 맞아떨어진다. 자신은 온건으로 가는데 상대방이 강경으로 가면 자신이 ’ 독박‘ 을 쓰게 될 가능성이 커지므로 둘 다 ’ 온건‘ 대신 ’ 강경‘ 을 선택해 최악의 결과가 도출된다는 것이다. 물론 노사가 이런 게임에 반복적으로 참여하고 있다면 학습효과가 생겨 상황이 바뀔 수 있다. 상대방과 의사소통을 잘하는 경우에도 양쪽 모두 최악을 피해갈 수 있다.
이 이론이 우리에게 던져주는 경제적 시사점은 상당하다. 이해관계가 상충하는 경우 강경책이 선택되어 양측 모두가 최악으로 가게 되는 상황을 이 이론은 잘 보여주고 있다. 자신은 온건책을 선택하는데 상대방이 강경책을 선택하면, 자기만 놀림감이 되고 비판을 받는 상황에 빠질지도 모른다는 두려움이 누구에게나 존재한다는 것이다. 그렇다면 정부는 이럴경우 어떤 역할을 해야 할까. 무리한 강경책은 절대로 통하지 않는다는 것을 분명히 하고, 이러한 사실을 경제 주체들에게 지속적으로 학습시킴으로써 사회 전체적으로 ’온건‘이 대접받는 분위기를 만들어내야 한다. ‘온건’이 대접 받고 ‘강경’이 추방되는 것이 사회적으로 최선의 결과를 도출한다는 믿음을 모든 경제주체가 공유할 때 문제와 갈등 해결이 빨라지고, 보다 나은 미래를 기약할 수 있다는 것을 내쉬의 이론이 잘 보여주고 있기때문이다. 이 이론은 이 같은 사회·경제적 분석을 할 수 있는 시작점을 제공했다는 점에서도 큰 의미를 가진다고 할 수 있다.
윤창현 교수는... ▲1960년 충북 청주▲1979년 대전고 ▲1984년 서울대물리학과 ▲1986년 서울대 경제학과 ▲1993년 미 시카고대 경제학박사 ▲1993~1994년 금융연구원 연구위원 ▲1995~2005년 명지대 경영무역학부 교수 ▲2005년~ 서울시립대 경영학부 교수 ▲2012년~2015 한국금융연구원장 ▲현서울시립대 경영학부 교수
