틀리지 않는 법

세상을 더 깊게, 더 올바르게, 더 의미 있게 이해하는 법! 뉴욕 타임스 베스트셀러 2016년 오일러 북 프라이즈 보통 사람들을 위한 수학책 신동 출신의 수학자로 유명한 위스콘신 주립대 수학과 교수 조던 엘렌버그의 첫 수학 대중서이다. 특유의 유머, 대중적 글쓰기 감각, 촉망받는 수학자로서 전문성이 결합된 이 책은 2014년 출간 이후 뉴욕 타임스 베스트셀러로서 많은 독자들의 사랑을 받았다. 또한 미국 수학회AMS가 매년 1권 선정하는 오일러 북 프라이즈 2016년 수상작으로서 <수학자들이 인정하는 뛰어난 수학 저술>로도 자리매김했다. 루이스 캐럴과 마틴 카드너의 <보통 사람들을 위한 수학책>의 영광스러운 계보를 잇는다는 스티븐 핑커의 평가에서도 알 수 있듯이, <재미>와 <전문성>의 두 마리 토끼를 잡는 데 성공한 보기 드문 수작이다. 수많은 수학 대중서들이 수학을 단순히 흥미 위주로 다루는 데 그치는 데 비해, 이 책은 우리가 수학을 대할 때 느끼는 근본적인 의문에 답한다. 즉, 우리가 살아가는 데 왜 수학이 필요한지, 실제로 어디에 어떻게 써먹을 수 있을지를 다른 어떤 책보다도 치밀하게, 명료하게 그리고 유쾌하게 보여준다. 엘렌버그는 학계를 선도하는 수학자의 한 사람으로서, 세상에 수학 전공자가 더 많아야 한다고 말한다. 수학을 전공한 의사, 수학을 전공한 고등학교 교사, 수학을 전공한 CEO, 수학을 전공한 국회 의원이 더 많아야 한다고 말이다. 실제로 우리에게는 수학이 더 많이 필요하다. 이 책은 복잡한 현실에서 수학이 없다면 우리가 얼마나 틀리기 쉬운지, 반대로 수학을 통해 어떻게 틀리지 않을 수 있는지를 분명히 보여준다. 틀리지 않는 법 이 책의 제목은 무척 특이하다. 가령 <옳을 수 있는 법>이 아니라 왜 <틀리지 않는 법>인가. 우리는 수학을, 더 넓게는 과학을 <정답>을 찾는 학문으로 이해한다. 우리가 보기에 과학은 답을 제공해야 한다. 즉, 현재의 경제 상황에서 증세가 좋을지 감세가 좋을지, 2050년의 결핵 사망률은 어느 정도가 되는지, 하다못해 다음주 화요일에 비가 올지 말지에 대해 답을 주는 것이다. 그러나 경험에서 배웠듯이 우리는 다음주 날씨를 어느 정도 예상할 수는 있지만, 그 예보가 맞을지 어떨지는 거의 알 수 없다. 기본적으로 수학도 마찬가지다. 답을 구하는 데 있어 그 어떤 학문보다 엄밀한 수학이라 하더라도 현실의 여러 문제들에 <정답>을 제공하는 것은 거의 불가능할 정도로 어렵다. 엘렌버그는 에필로그에서 미국 대선을 정확히 예측한 『신호와 소음』의 저자 네이트 실버의 사례를 언급한다. 오해의 소지가 있지만, 실버는 누가 이길 것이라고 말하지 않았다. 그는 여론 조사를 바탕으로 각각의 주에서 누가 얼마나 앞서는지를 퍼센트로 보여주었을 따름이다. 확률과 기대값에 기대어 오바마가 승리할 확률이 몇 퍼센트인지를 알려주었고 그것이 적중했다. 다시 말해 실버는 자신의 정치색이나, 신념이나, 감이나, 혹은 양의 창자로 점을 친 결과에 기대서 말한 것이 아니라 데이터에 기반해 계산된 확률을 제시했다. 그리고 그것은 <정답>은 아니었지만, 정말로 <틀리기 어려운> 답이었다. 현실은 <틀리지 않기>조차 매우 어렵다. 현대인들은 무수히 많은 사실들, 데이터들을 접한다. 그것을 올바로 다루지 않으면, 우리는 틀리기 쉽다. 서문에서 제시된 2차 대전 당시 전투기의 생환률을 높이기 위해 골몰한 군 장성들의 사례를 보면, 우리가 실제로 얼마나 틀리기 쉬운지 깨닫게 된다. 데이터를 올바로 다루지 않으면, 우리는 틀리기 쉽다. 틀리지 않으려면 올바른 가정을 설정하고, 올바른 데이터 집단을 선정하고, 올바른 알고리즘에 적용해야 한다. 엘렌버그가 말하는 <수학적 사고>란 바로 이런 것이다. 인식하고, 검증하고, 더 나은 혹은 더 정확한 판단을 위한 메커니즘을 찾는 것이다. 물론 우리는 그냥 근거 없이, 혹은 데이터들을 멋대로 해석해서 믿는 대로 말할 수도 있을 것이다. 그러나 경기 부양을 위해 감세가 좋을지 증세가 좋을지, 어떤 주식 포트폴리오에 투자해야 할지, 더 많은 지지를 받는 대통령 후보가 누구인지를 결정하는 것 같은 문제에서 우리는 절대로 틀리고 싶지 않다. 그런 사람들에게 이 책이 제시하는 방법론, 즉 <틀리지 않는 법>은 엄청나게 유용할 것이다. 이 책이 다루는 수학 엘렌버그는 이 책에서 수학을 구조적 측면에서 단순과 복잡으로, 의미적 측면에서 심오와 얕음으로 나눔으로써 크게 네 가지로 분류한다. 1+2=3 같은 기본적인 산술적 사실들은 단순하고 얕다. 복잡/얕음 칸으로 옮겨 가면, 열 자릿수 숫자 두 개를 곱하는 문제, 복잡한 정적분을 계산하는 문제, 대학원에서 두어 해 공부한 사람이라면 컨덕터 2377의 모듈러 형식에서 프로베니우스 대각합을 구하는 문제 등이 있다. 이런 문제는 당연히 손으로 풀기가 성가시거나 불가능한 경우의 중간쯤에 해당할 테고 모듈러 형식의 경우에는 뭘 하라는 건지 이해하는 데만도 상당한 공부가 필요하다. 하지만 이런 답들을 안다고 해서 세상에 대한 이해가 딱히 풍성해지진 않을 것이다. 복잡/심오 칸은 전업 수학자들이 대부분의 시간을 쏟는 곳이다. 여기에는 리만 가설, 페르마의 마지막 정리, 푸앵카레 추측, P 대 NP, 괴델의 정리…… 등의 유명한 정리들과 추측들이 살고 있다. 이런 정리들은 모두 심오한 의미, 근본적 중요성, 압도적 아름다움, 잔인하리만치 까다로운 세부를 거느린 개념들과 관련된 문제이며, 제각각 책 한 권의 주인공이 될 만하다. 그러나 이 책이 다루는 수학은 그런 것이 아니다. 이 책은 단순하면서도 심오한 칸을 다룬다. 이곳의 수학 개념들은 대수까지 진도가 나가기 전에 수학 공부를 그만두었든 그보다 더 많이 배웠든 누구나 직접적으로 유익하게 관여할 수 있는 문제들이다. 그리고 이 개념들은 우리가 평소 수학이라고 여기는 분야를 넘어서까지 폭넓게 적용될 수 있는 원칙들이다. 이러한 분류에 기반해서 이 책은 <선형성>, <추론>, <회귀>, <기대>, <존재>라는 큰 주제들을 다룬다. 세부적으로 들어가면, 다음과 같은 질문들에 대한 답을 들을 수 있다. 평균으로의 회귀란 정확히 무슨 뜻일까? 흔히들 상관관계는 인과 관계가 아니라고 말하는데, 그렇다면 상관관계는 정확히 어떻게 정의될까? 학술지들이 논문을 실어줄 때 어떤 기준에 따라서 연구의 유의미성을 판가름할까? 만일 그 기준에 미치지 못한 연구 결과라면, 그것은 곧 그 결과가 틀렸다는 뜻일까? 거꾸로 그 기준을 통과한 연구 결과라면, 그것은 그 결과가 무조건 옳다는 뜻일까? 노벨 경제학상을 받은 조지 스티글러는 <당신이 비행기를 한 번도 놓친 적이 없다면 너무 많은 시간을 공항에서 낭비하는 것이다>라고 말했다는데, 그게 대체 무슨 소리일까? 수학자들은 늘 입을 모아 복권은 돈 낭비라고 말하는데, 과연 그럴까? 상관관계, 선형 회귀, 기대값, 사전 확률과 사후 확률, 귀무가설 유의성 검정…. 엘렌버그는 이런 개념들이 오늘날 얼마나 광범위하게 사용되는지를 농구, 야구, 복권, 논문 심사, 흡연과 폐암의 관계 등의 사례를 들어 설명한다. 이런 개념들 없이는 현대의 뉴스, 스포츠 통계, 정치 사회적 의사 결정 과정을 손톱만큼도 이해할 수 없다고 지적한다. 또한 이런 개념들을 정확히 이해하는 순간, 매스 미디어나 정치권에서 유통되는 정보에 생판 틀린 소리나 작성자도 미처 몰랐던 맹점이 얼마나 많은지도 깨닫게 될 것이라고 말한다. 그러니 이 책은 교묘한 수학적 언설에 속아 넘어가기 싫은 보통 사람들을 위한 책인 동시에 무엇보다도 자신이 휘두르는 수학 도구들의 맹점에 스스로 속아 넘어가지 말아야 할 저널리스트, 정치인, 마케팅 담당자, 교사 등이 꼭 읽어야 할 책이다. <