수학자의 공부

중학교 입시에 실패한 평범한 아이는 어떻게 세상을 놀라게 한 위대한 수학자가 될 수 있었을까? 이 책 『수학자의 공부』의 저자 오카 기요시는 일본을 대표하는 수학자다. 오카는 다변수 함수론 분야의 최대 난제인 ‘3대 문제’를 해결하여 세계적인 명성을 얻었으며, 그가 발견한 ‘부정역(不定域) 아이디얼’은 그때까지 해결하지 못한 문제들에 대한 해답을 내는 데 탁월한 실력을 발휘하기도 했다. 오카의 연구 업적은 프랑스 수학자 앙리 카르탕(Henri Paul Cartan)에 의해 계승되고 발전하여 ‘층 이론(sheaf theory)’을 구축하는 토대가 되었으며, 그로부터 수학의 새로운 분야(다변수 복소함수론)가 만들어졌다. 이로써 대수기하학, 소립자론 등의 분야는 이 개념 없이는 설명조차 안 될 정도로 대단히 중요한 위치를 차지하게 되었다. 오카의 아이디어는 지금 이 순간에도 끊임없이 새로운 생명력을 발휘하며 수학을 연구하는 사람들에게 영감을 불어 넣어준다. 한데, 다변수 함수론 분야의 최대 난제인 ‘3대 문제’를 해결하여 세상을 놀라게 하고 수학 이론 ‘다변수 복소함수론’을 정립한 위대한 수학자가 중학교 입시에도 실패한 적 있을 정도로 평범한 아이였다면 믿어지는가? 초.중등학교 시절 평범한 아이였던 오카 기요시는 어떻게 공부하고 사유했기에 수학이라는 분야에서 그토록 위대한 업적을 세울 수 있었을까? 이듬해에 나는 중학생이 되었다. 중학교 입시에 한 번 실패한 뒤였다. 로그(대수)를 배운 것은 2학년 때였다. 학기말시험에서 두 문제를 겨우 맞혔다. 총 다섯 문제가 출제되었다. 나는 가장 어려워 보이는 문제를 먼저 푸는 버릇이 있었다. 그 바람에 1학기에 배웠던 풀잇법이 기억나지 않아 당황한 나머지 풀 수 있는 문제까지 틀리고 말았다. 학기말시험은 더 중요했다. 나름대로 열심히 준비했다. 로그 영역에서 68점을 받았다. 참담했다. 방학을 맞아 집에 돌아왔다. 오랫동안 끙끙 앓았다. 점수가 목에 걸린 생선 가시처럼 마음에 걸린 탓이었다. ― 본문 35쪽 중에서 계절에는 만물이 깨어나는 시기인 ‘봄’이 있고, 죽은 듯 서 있는 나무에도 파릇파릇한 새싹이 돋아나는 시점이 도래하는 법. 인간도 마찬가지다. 그늘에 따스한 햇볕이 비쳐들고 나무가 싹을 틔우듯 문리(文理)가 트이고 지식이 팽창하는 시기가 온다. 오카 기요시에게 지식의 대폭발기가 찾아온 것은 고등학교 3학년부터 대학교 1학년 무렵이었다. 오카는 동급생들과 마찬가지로 당시 전 세계에서 가장 유명한 사람 중 한 명이었던 아인슈타인의 영향으로 교토대학 이학부 물리학과에 입학한다. 그러나 그는 얼마 지나지 않아 물리학이 자신과 맞지 않는다는 걸 깨닫는다. 오카는 고민 끝에 결국 물리학과에서 수학과로 전과를 결심한다. 야스다 료라는 강사의 수학 강의를 들은 직후였는데, 그 강좌의 기말시험에서 놀라운 일이 일어난다. 평소 습관대로 어려운 문제부터 풀기 시작했다. 한 문제당 2시간 정도 걸려서 답안을 작성했다. 문제를 제대로 풀었다는 확신에 나도 모르게 “해냈다!”라고 소리 질렀다. 감독관으로 들어와 있던 야스다 선생과 주위 학생들이 모두 내 얼굴을 빤히 쳐다보았다. 나는 머리를 긁적이며 겸연쩍게 웃었다. 연필을 집어 들고 강의실 밖으로 나갔다. 공원으로 달려가 해가 저물 때까지 벤치에 누워 있었다. 그 뒤의 시험을 몽땅 내팽개친 채였다. 날아갈 듯 기분이 좋았다. 내 인생에서 찬란한 수학의 발견, 증명법에 대한 최초의 발견 순간이었다. ― 본문 43~44쪽 중에서 공부에, 특히 수학에 자신이 없었던 오카 기요시는 그 후 조금만 더 노력하면 자기도 얼마든지 수학을 잘할 수 있다는 자신감을 얻었다. 그리고 내친김에 수학과로 전과를 결심하고 실행에 옮겼다. 이후 그의 고백대로 “수학과에서 보낸 2년여 동안 서서히 눈을 뜨는 날들이 쉼 없이 이어졌다.” 고등학교 때까지만 해도 천재보다는 평범한 아이에 더 가까웠던 오카 기요시가 다변수 함수론 분야의 오랜 난제를 풀고 세상을 놀라게 한 위대한 수학자가 된 비결은 무엇이었을까? 한마디로 그것은 ‘몰입’의 힘이었다. 물리학에서 수학으로 학문 연구의 진로를 바꾼 뒤 오카는 차츰 수학의 세계에 몰입하게 되고, 그 과정에서 여러 번 ‘발견의 황홀한 기쁨’을 맛보게 된다. 그 후에도 몰입과 환희의 순간이 오카의 삶에 자주 찾아왔으며, 오카는 점점 더 깊이 아름다운 수학의 세계에 빠져들었다. 두 달 남짓 그 일에 매달리자, 세 가지 문제가 하나의 산맥처럼 명료하게 드러났다. 이듬해 3월부터 그 산맥을 오르기 시작했다. 미해결 문제인 만큼 녹록하지는 않았다. 처음엔 어찌해야 좋을지 알 수조차 없었다. 어디서부터 시작하여 어느 길을 타고 산맥을 올라가야 할지 감을 잡기 어려웠다. 아침마다 방법을 바꾸어 하루가 끝나는 밤까지 시도하고 또 시도했다. 올바른 방법인지조차 판단이 서지 않았다. 며칠을 걸려 문제를 풀어도 그것이 정답인지 오답인지도 알 수 없었다. 낙담하여 한숨짓는 날이 이어졌다. 그렇게 석 달여 시간이 하릴없이 지나갔다. 맥이 풀릴 대로 풀려서 아무것도 할 수 없는 상태가 되었다. 지극히 단순한 문제마저 풀 수 없는 지경에 이르렀다. 문제를 억지로 붙잡고 있으면, 10분 정도 긴장되었다가 그 뒤부터 집중력이 떨어졌다. 졸음이 쏟아지기까지 했다. ……(중략) 9월이 되어 돌아갈 채비를 하고 있을 때였다. 나카야 씨가 자기 집에서 아침 식사를 같이하자고 불렀다. 식사를 마친 뒤, 연구실에서 가만히 앉아 생각에 잠겨 있었다. 그때 놀라운 일이 일어났다. 생각이 한 방향으로 가지런히 모이는 느낌이 들더니 점점 구체화하기 시작했다. 두 시간 반 정도 시간이 흐르자, 어디를 어떻게 손을 대야 좋을지 확실히 알 수 있었다. 두 시간 반이라고는 해도 생각을 정리하는 데 시간이 걸렸을 뿐 대상이 확연히 떠오르는 데는 놀라우리만치 적은 시간이 걸렸다. 아무튼, 말할 수 없이 기뻐서 내 생각이 맞는지 그른지 의심하지도 따져보지도 않았다. 집으로 돌아가는 기차 안에서도 휙휙 바뀌는 차창 밖 풍경만 무심히 바라보았다. 한껏 고무된 나머지 수학에 대해서는 아무 생각도 품지 않은 채로 앉아 있었다. ― 본문 21~23쪽 중에서 이때 오카 기요시는 커다란 발견의 기쁨을 얻었다. 그 전후로 발견의 기쁨을 맛본 적이 여러 번 있었지만, 그렇게 커다란 기쁨을 느끼기는 그때가 처음이었다고 그는 고백한다. 이듬해부터 오카는 ‘다변수 해석함수론’이라는 표제를 사용하여 2년에 한 번꼴로 다섯 차례에 걸쳐 논문을 발표했다. 긴장과 이완이 반복되는 몰입 상태에서 발견한 것을 바탕으로 완성한 대작업이었다. 몰입은 그런 식으로 찾아오는 것 같다. 약간의 긴장감을 유지한 채 난생처음 가는 길을 걷듯 아무것도 모르는 상태에서 일을 계속 진행하기. 거기에 더해 졸음만 쏟아지는 일종의 방심 상태에 놓여 있기. 이 두 가지가 ‘발견’의 중요한 밑거름이 되었던 게 아닌가 싶다. ― 본문 23쪽 중에서 ‘몰입 ― 발견’의 선순환 구조는 오카가 점점 더 심오한 학문 연구의 세계로 빠져들게 해주었고, 다변수 함수론 분야의 최대 난제인 ‘3대 문제’에 과감히 도전하도록 용기를 불어 넣어주었으며, 마침내 그 난제를 모두 풀고 새로운 수학 이론을 정립한 위대한 수학자로 우뚝 서게 하는 근원적인 힘이 되어주었다. 오카 기요시에 관한 재미있는 일화를 한두 가지 소개하고자 한다. 오카가 지칠 줄 모르는 몰입과 열정적 연구를 통해 구축한 수학 이론 ‘부정역 아이디얼’이 프랑스에 소개되었을 때 그 이론을 맨 처음 접한 수학자들은 그 이론의 독창성과 천재성에 매우 놀랐다고 한다. 게다가 그때까지만 해도 그 이론을 정립한 수학자에 관한 구체적인 정보가 전혀 없었던 터라 그 이론이 걸출한 수학자 한 사람이 아닌 천재 수학자 집단에 의해 탄생했