비트겐슈타인의 수학의 기초에 관한 강의

비트겐슈타인의 수수께끼 같은 철학적 사유 행로에 실마리를 제공하는 강의록 비트겐슈타인은 살아생전 단 한 권의 책을 출판했다. 그러므로 그의 사후 출간된 여러 유작 원고와 노트, 강의록 등은 20세기 철학사에 끼친 그의 영향력을 생각할 때 매우 귀중한 자료일 수밖에 없다. 이 책은 1939년 비트겐슈타인이 케임브리지에서 행한 ‘수학의 기초’에 관한 강의를 당시 네 명의 주요 청강자들의 강의 기록을 토대로 펴낸 것이다. 잘 알려져 있듯이 비트겐슈타인은 자신의 첫 저서 『논리,철학 논고』로 20세기 철학의 지형도를 바꾸어놓았다. 70여 쪽에 불과한 잠언 형식의 짧은 책 속에서 그는 철학의 모든 문제들을 결정적으로 해결했다고 선언함으로써 수많은 화제와 논쟁의 중심에 섰다. 그리고 십여 년의 세월이 지나 다시 케임브리지 대학에 복귀한 이후 그는 젊은 시절 자신이 썼던 『논리,철학 논고』의 주장을 부정하게 되었다. 이후 전개된 비트겐슈타인의 독창적인 후기 철학에서 그는 자신의 전기 사상과 치열하게 싸운 흔적을 보이는데, 그 철학적 싸움은 심리학과 관련한 철학, 수학 및 논리학에 관한 철학을 두 축으로 삼아 전개되었다. 그리고 수학 및 논리학에 관련한 철학적 문제들은 그가 케임브리지에서 행한 여러 강의의 주요 내용을 이룬다. 수학철학에서 탐구하는 철학적 문제는 다양하다. 과연 수는 존재하는가, 가령 3은 존재하는가, 존재한다면 현실세계에 존재하는가, 플라톤의 이데아로서 존재하는가, 아니라면 그것은 우리가 구성한 관념일 뿐인가, 도대체 수란 무엇인가, “2+3=5”가 거짓이라고 상상하는 것은 불가능한가, 우리와는 완전히 다른 수학이나 논리학을 갖고서 생각한다는 것은 불가능한가, 등등. 뿐만 아니라 우리는 수학자의 수학적 활동 자체에 대해서도 물음을 제기할 수 있다. 가령 수학자가 어떤 증명을 했을 때 그가 한 것은 무엇인가, 그는 어떤 것을 발견했는가 아니면 발명했는가, 계산은 실험과 같은 것인가, 계산과 실험이 다른 것이라면 그 본질적인 차이란 무엇인가, 1939년 케임브리지 강의에서 비트겐슈타인은 이러한 수학철학의 문제에 대해 ‘실천’의 관점에서 대답한다. 논리학의 진리나 수학의 진리는 인간들이 하는 행동들의 일치에 의해서, 즉 동일한 것을 하는 것에서의 일치, 동일한 방식으로 반응하는 것에서의 일치에 의해서 결정된다. 수학적 명제나 논리학적 명제는 경험적 명제와 그 성격이 본질적으로 상이하며, 인간은 행동에서의 일치 때문에 규칙을 만든다. “그 규칙은 경험적인 연관을 표현하지 않으며, 오히려 우리는 경험적인 연관이 존재하기 때문에 그 규칙을 만든다.” 더 나아가 우리의 계산체계가 기초하고 있는 사실이란 “우리가 일반적으로 셈에서의 오류를 기억한다는, 그 계산체계를 왜곡하지 않는다는, 등등의 경험적 사실”이다. “거의 주목되지 않은 지극히 일반적인 사실”이다. 비트겐슈타인의 이러한 실천의 관점은 매우 독자적인 것으로, 기존의 그 어떤 수학철학의 사상과도 다르다. 더구나 이러한 관점에서 그는 수학이란 인간의 정신으로부터 독립적인 수학적 실재를 다루는 학문이라는 실재론적 수학관, 인간 정신의 구성물이라는 직관주의적 수학관, 경험의 일반화라는 경험주의적 수학관, 수학은 의미 없는 기호들로 이루어지는 놀이이며 수학적 체계는 형식체계라는 형식주의적 수학관, 수학적 명제는 인간이 부여한 의미에 의해서 참이라는 규약주의적 수학관, 수학은 논리학으로부터 도출 가능하다는 논리주의적 수학관, 수학은 추상적인 구조를 다룬다는 구조주의적 수학관을 모두 비판하고 있다. 그러면서 그는 이 강의를 통해 수학철학, 특히 ‘수학의 기초’와 관련된 대부분의 주제를 폭넓게 다룬다. 따라서 이 책은 그저 ‘수학’에만 관련된 것이 아닌, 비트겐슈타인의 난해한 후기 철학을 이해하기 위한 열쇠를 담고 있다. 실제로 그의 후기 철학의 대표작인 『수학의 기초에 관한 고찰』과 『철학적 탐구』의 많은 부분이 1939년 ‘수학의 기초’에 관한 케임브리지 강의의 주제와 겹친다. 간결한 문체로 쓰인 그의 저작들의 난해함에 비해, 강의라는 열린 형식을 통한 비트겐슈타인의 설명은 ‘상대적으로’ 친절함을 확인할 수 있다. 20세기 최고의 철학자 비트겐슈타인과 젊은 천재 수학자 앨런 튜링, 그들의 논쟁과 철학적 대결 무엇보다도, 이 강의에 참석한 이들 중에는 현대 컴퓨터의 모태를 창안한 젊은 수학자 앨런 튜링이 있었다. 『타임』지가 선정한 '20세기 100대 사상가' 중 철학자로서는 유일하게 비트겐슈타인이, 수학자로서는 괴델과 함께 튜링이 들었음을 상기할 때, 1939년 케임브리지 대학의 한 강의실에서 이 세기의 두 사상가가 ‘수학의 기초’에 대해 논쟁을 펼쳤음은 그 자체로 주목할 만하다. 앨런 튜링 역시 당시 이십대 중반의 나이로 케임브리지에서 ‘수학의 기초’라는 수리논리학 입문 강의를 맡고 있었으므로, 자연히 수학의 본성과 수학적 전제에 관해 비트겐슈타인이 비판하면 튜링은 수학을 옹호하는 입장을 취했고, 강의는 자주 비트겐슈타인과 튜링 사이의 대화로 발전되었다. 비트겐슈타인은 아마도 튜링을 설득하면 누구든지 설득할 수 있다고 생각했을 것이다. 그러나 튜링은 설득당하지 않았고, 러셀을 비롯한 대부분의 수학자들과 마찬가지로 튜링 역시 수학의 매력, 그 반박할 수 없는 확실성을 포기하지 않았다. 비트겐슈타인과 튜링의 논쟁은 네 번째 강의에 등장하는 “스미스는 정칠각형을 작도했다”(정칠각형이 작도 불가능하다는 것은 이미 수학에서 증명되었다)와 같은 문장을 어떻게 보아야 하느냐 하는 문제부터 시작해, 스물한 번째 강의에 등장하는 그 유명한 ‘모순’에 관한 논쟁에서 절정에 이른다. 비트겐슈타인에 따르면, 모순은 숨겨진 한에서 전혀 해로울 것이 없기에, 어떤 모순이 수학이나 논리학에서 발견되어도 그다지 심각한 문제가 아니며, 나아가 사람들은 모순으로 논리학이나 수학을 할 수도 있을 것이라고, 따라서 소위 수학의 위기는 존재한 적이 없다고 말한다. 이에 대해 튜링은 만일 수학체계에 모순이 있다면 그 계산체계로 건설된 다리는 붕괴될 수 있으므로, 계산체계에 모순이 존재한다면 바로 그 점에서 해롭다고 말한다. 이에 대해 비트겐슈타인은 “모순 때문에 다리가 무너질 수 있다고 말하는 것은 아주 옳은 소리로 들리지 않는다”고 응수한다. 모순에 대한 비트겐슈타인의 이러한 생각은 유래가 없는 새로운 것이어서, 여전히 학자들 사이에서 논쟁이 되고 있다. 두 천재의 팽팽한 대화를 당시 청강자들의 노트 기록을 통해 생생하게 그려볼 수 있다는 점 또한 이 책의 빼놓을 수 없는 장점이다.