화이트헤드의 수학이란 무엇인가

수학과 철학을 넘나든 20세기 최고의 지성 화이트헤드, 그가 남긴 수학 교양서의 명저 과학과 철학을 아우르는 수학의 참된 가치와 본질을 말하다! 사람마다 다르겠지만 수학이라는 과목은 학창 시절 겪게 되는 가장 큰 두려움의 대상이기도 하다. 그래서 어떤 이들은 수를 다루는 학문은 자신의 성향과 너무 다르다며 가능한 한 수학과 거리를 두는 쪽으로 진로를 잡기도 한다. 하지만 그럼에도 불구하고 수학을 완벽히 벗어날 방법은, 적어도 교육을 받는 동안에는 없다. 공교육 그리고 대학까지 포함에서 학생들이 수학을 공부하는 방법은 일종의 ‘수련’에 가깝다. 기본 공식을 익히고 관련 문제를 푸는 일련의 과정은 교육의 근본 목적이라 할 수 있는 원리를 통한 깨달음이기보다 시험 문제를 풀기 위한 연습에 가깝다. 미분과 적분을 풀 수는 있어도, 그것이 물리학에서 그토록 까다롭게 여기던 무한에 대한 관념을 쉽게 기술하게끔 했다는 점은 간과한다. 원의 면적과 구의 체적은 계산해낼 수 있지만 원주율(π, 파이)이 내포하는 우주적 신비감에 감탄해본 학생이 얼마나 있을까. ‘과학의 언어’라고 일컬어지는 수학은 고대의 철학부터 현대의 과학과 공학 등 인간 이성이 관여하는 모든 영역에 폭넓게 작용하는 학문이다. 결국 수학은 모든 자연과학의 출발을 알리는 생각의 언어로서 시작되었으며, 고대 철학자를 오늘날 수학자와 동일시하는 것도 같은 맥락으로 볼 수 있다. 하지만 아이러니하게도 오늘날 철학과 수학은 전혀 다른 영역을 뜻하는 과목으로 인식된다. 많은 사람들이 수학을 배배 꼬인 수와 도형으로 이루어진 복잡한 퍼즐 같은 문제를 다루는 과목으로 생각하는 것은, 어쩌면 수학의 근본 목적인 철학적 사고를 배제한 오늘날의 교육방식 때문이기도 하다. 한평생 교육자로 살다 간 저명한 수학자이자 철학자인 화이트헤드는 수학이 가진 의미와 그 아름다움을 학생들이 제대로 맛보지 못한다는 사실에 안타까워했다. 이는 서구에서 지금도 중고등학생들의 필독서로 꼽히는 『화이트헤드의 수학이란 무엇인가(An Introduction to Mathematics)』를 그가 집필한 이유이기도 하다. 화이트헤드는 오늘날 수학과 철학이란 두 영역에서 결코 빼놓을 수 없는 중요 인물로 수학의 확장과 방법론을 명확하게 제시했으며, 그 사유는 형이상학까지 닿아 현대철학에 혁명적 공헌을 남겼다. 그는 수학의 체계성을 확립하는 데 관심이 많았으며 수제자인 버트런드 러셀과 세 권에 걸쳐 『수학 원리』를 저술하여 수리논리학에 획기적인 업적을 남겼다. 또한 교육에도 관심이 많아 교육 강연집인 『교육의 목적』을 내기도 하였다. 『화이트헤드의 수학이란 무엇인가』는 수학과 철학을 아우르는 대학자가, 수학의 참된 가치와 그 본질을 망각한 채 학생들이 수학의 복잡한 기호체계와 수학적 기법의 연습에만 몰두하게 만드는 교육현장에 느낀 아쉬움에서 출발하였다. 인간 이성의 사고체계가 유용한 과학으로 진보할 수 있게끔 한 수학의 발전상과 핵심 이론, 인류가 공유하는 이론과 정의의 표준화를 꾀할 수 있게 한 수학의 방법론을 체계적이고 효율적으로 조목조목 짚어가는 화이트헤드의 강의는 현대인에게 꼭 필요한 교양수업이다. 또한 수학의 근원, 수의 의미, 이성적 사고를 가능하게 한 기호화, 물리학의 발전을 견인한 수학의 방법론, 철학적 사유를 통해 도달한 추상성의 성립까지, 가장 오래된 학문으로서 과학의 모든 분야에 강력한 영향력을 미치는 수학을 명쾌히 풀어내어 대중 수학서로서도 손색이 없다. 수학은 무엇에 관한 학문인가? 자연현상을 탐구하는 데 수학은 어떤 사고의 도구를 제공하는가? 수학의 존재 이유를 알면 수학이 즐겁다! 이 책에서 저자는 기본적으로 모든 사상 체계와 생각의 틀을 수학으로 보고 있다. 우리가 의식하지 못하는 사이에 수학은 우리가 사고하는 데 있어 일종의 운영체제와 같은 역할을 맡고 있다는 것이다. ‘여기에서 저기까지는 거리가 멀다’는 인식은 거리를 수량으로 나타낼 수 있는 관념이 공감대를 형성했기 때문이고, ‘무엇이 있다 없다’를 0인지 아닌지로 가늠하는 것도 0에 대한 인식에 공감하기 때문이다. 조금 더 깊이 들어가 숫자 0이 우리에게 안겨주는 효용성은 ‘아무것도 없다’는 인식을 뛰어넘는다. 10, 200, 3000, 이런 식으로 아라비아 기수법을 혁명적으로 쉽게 만들었으며, 수식에서 좌변에 특정 식을 놓고 우변에 ‘=0’을 놓게 함으로써 대수학의 발전을 꾀하였다. 이는 전혀 특별한 이야기가 아니다. 우리가 일상에서 너무나 당연히 사용하는 0의 효용이며, 대부분의 사람들이 구체적인 설명은 못해도 은연중에 알고 있는 사실이다. 이 밖에도 음수와 양수, 수리물리학, 거리와 무게, 기하학, 미분과 적분 등 우리가 학교에서 배웠던 기본적인 수학 이론들이 꼬리에 꼬리를 물고 나온다. 하지만 교과서와 다른 부분이 있다. 아마도 그것은 학교에서도 잘 가르쳐주지 않은 내용일 것이다. 수학의 각 내용들은 어떤 필요에 의해 생겼으며, 그것이 우리 삶에 어떤 의미를 주는가이다. 저자는 책의 도입에서 ‘수학의 추상성’(1장)을 다룬다. 이는 어쩌면 수학의 존재 이유이기도 하다. 인간이 이해하는 자연에 대한 추상적 관념을 모든 이들이 오차 없이 정확히 같은 값으로 이해할 수 있는 방법, 그것이 수학이다. 이 과정에서 필연적으로 생겨난 온갖 기호와 수식은 수학이 말하는 관념에 필요한 언어적 도구일 뿐이지 그 자체가 수학은 아니라는 점을 저자는 강조한다. 화이트헤드는 이렇게 말한다. “우리가 수학이라는 학문의 명성에 부응하는 데 실패하는 이유는 간단하다. 수학 문제의 엄밀한 표기를 위해 고안된, 소위 수학적 기법 정도만 학생들에게 익숙하도록 할 뿐 그 근본 개념까지 이해시켜주지 않기 때문이다. 따라서 이런 불행한 학생들은 수학 개념의 일반적 성질은 못 본 채 수학의 단편지식만 습득하는 데 몰두했음을 나중에 깨닫게 된다. …… 이 책에 담긴 글들은 수학 자체를 가르치기 위한 것이 아니다. 다만 수학을 나름대로 시작하는 학생들이 수학이 무엇에 관한 학문인지, 자연현상을 탐구하는 데 왜 수학이 필연적으로 엄밀한 사고의 도구로 사용되는지 알게 하는 데 목적이 있다. 각 단원마다 소개되는 세부적 추론 내용은 오로지 예를 들어 보이기 위해 넣은 것이다. 아울러 보편적 논증과정이 쉽게 이해될 수 있도록 최대한 주의를 기울였다. 다소 생소할지도 모를 기술방식이나 부호가 드문드문 눈에 띄겠지만 그것 역시 예시를 목적으로 쓰였음을 밝혀둔다.” (본문 12~13쪽) 수학의 추상성을 설명한 후 저자는 변수(2장)에 대해 언급한다. 수학 그중에서도 대수학은 어찌 보면 임의(any)와 어떤(some)에 대한 내용으로 귀결된다는 화이트헤드의 말은 너무나 명확하게 들린다. ‘임의의 수’와 ‘어떤 수’를 기술하는 방식으로 x, y, z 같은 변수가 만들어졌으며, 이는 대수학에서 방정식을 낳게 하여 우리가 구하고자 하는 미지의 값을 논리적으로 밝힐 수 있는 방법론을 제시했고, 간결하면서도 아름다운 수학적 정의를 가능하게 하였다. 또한 변수의 개념은 2차원, 3차원으로 확장하여 값의 분포와 수식의 패턴을 선형이나 입체적으로 그려내면서 눈부신 기하학(16장)의 발전을 이룬다. 이 모든 것은 바로 ‘임의’와 ‘어떤’이라는 수학적 관념에서 출발했다는 명쾌한 해석에 이어, 3장 ‘수학의 적용체계’로 이어질 때쯤이면 독자는 수학의 복잡성보다는 그 단순한 패턴의 아름다움에 집중하게 될 것이다. 여기서는 수학보다는 물리학의 발전을 다루며 수학으로 볼 수 있는 외연을 넓혀준다. “수학공식의 적용에 있어 중요한 관건은 명료한 개념을 갖추되 관측된 현상과의 관련성을 바르게 진단하는 것이다”라는 그의 말대로 수학은 불명료한 자연현상을 명료하게 기술하는 방식으로 이용되어왔다. 그런 부분이 가장 두드러진 분야가 바로 물리학이다. 뉴턴의 실험부터 전자기학의 공식까지 그 적용에 수학이 차지한 절대적인 비중을 강조한다. 이에 대해 좀 더