에바리스트 갈루아, 한 수학 천재를 위한 레퀴엠

“매혹적인 책.” ―<이코노미스트> 바흐의 작품과 루빅큐브, 남녀가 짝을 선택하는 방식, 물리학에서 다루는 소립자 사이의 공통점은 무엇일까? 이들은 모두 과학적이고 예술적인 원리들을 우아하게 통합하는 대칭의 법칙에 의해 지배받는다. 하지만 대칭에 대한 수학적인 언어―군론으로 알려져 있는―는 단지 대칭 전반에 대한 연구로부터 출현한 것이 아니라 불가해 방정식으로부터 출현하였다. 지난 수천 년 동안 수학자들은 점점 더 어려운 대수 방정식을 풀어 왔지만 5차방정식에 다다르자 그 해결의 행진은 중단되고 이후 300여 년 동안 완강한 저항에 부딪치면서 풀리지 않고 있었다. 독립적으로 활동했던 두 천재에 의해서 5차방정식이 단순한 공식으로 풀 수 없음을 밝혀짐으로써 이 문제는 해결되었다. 이 두 천재는 노르웨이 출신의 닐스 헨리크 아벨과 프랑스 출신의 로맨티스트 에바리스트 갈루아로 두 사람 모두 젊은 나이에 비극적으로 생을 마쳤다. 그러나 이들의 믿기 어려운 천재성은 수학 분야만이 아니라 과학 일반, 예술, 심리학, 그리고 대자연을 아우르고 통합하는 새로운 이론인 군론(group theory)을 창조해냈다. “마리오 리비오는 인간이 대칭의 언어를 발견하게 되는 매력적인 이야기를 로맨티스트 천재 수학자와 드라마틱한 역사적 사건이 조우하는 시공간 속에서 풀어내고 있다. 순수 수학의 명백히 유리된 관심사가 어떻게 자연 세계에 대한 심오하고도 실제적인 통찰로 나아갈 수 있는지를 이해하고 싶은 독자에게 가장 중요한 책이다.” ―이언 스튜어트 Ian Stewart ■ 20살에 결투로 생을 마감한 한 천재 수학자로부터 수학의 새로운 역사가 시작되었다! 누구에게나 한 겨울에 내리는 눈이 바닥에 떨어져 녹기 직전, 눈의 결정을 보면서 아름답다고 느꼈던 경험이 있을 것이다. 마찬가지로 허공 속을 나르는 나비를 보고 똑같은 감정을 느낀 적도 있을 것이다. 이렇듯 인간은 왜 눈의 결정이나 나비를 보고 아름답다고 느끼는 것일까? 그렇게 눈의 결정이나 날개를 펼친 나비를 보고 아름답다고 느끼게 하는 요소는 무엇일까? 이 질문에 대답하는 이들에 따라 답은 다르게 나올 것이다. 아름다운 색, 비율, 문화적이고 신화적인 상상력이 반영된 이유들, 혹은 인간 존재에 비해서는 너무나 짧은 그들 생명의 찰나성 등등 다양할 것이나 그 중심에 놓여 있는 것은 아마도 대칭이라는 개념일 것이다. 우리는 흔히 대칭성이 없거나 적정한 비율에 어긋나는 대상에 대해 ‘기형(奇形)’이라는 표현을 한다. ‘기이한 혹은 기괴한 형태’라는 이 말에는 이미 자연적이거나 올바르거나 아름다운 형태라는 것은 어떤 것이라는 가정이 들어가 있다. 인간의 신체가 배꼽을 관통하는 중심선을 사이로 대칭적인 형상을 가지듯, 모든 자연적인 존재들은 그러한 대칭성을 그 자체로 가지고 있다. 이 대칭은 하지만 자연 속에서만 발견할 수 있는 것은 아니다. 인간이 이룩한 그 모든 것에 바로 이 대칭은 존재하며, 가장 중심적인 원리로 자리 잡고 있다. “대칭은 과학, 예술, 지각 심리학 등 다양한 분야에 등장하는 핵심 개념이다. 대칭은 형상, 법칙, 수학적 대상물 등이 지니고 있는 견고한 알맹이이며 이 알맹이는 변환 속에서도 끄떡없이 견뎌낸다. 여러 분야에서 다른 모습으로 변장한 채 등장하더라도 대칭을 기술하는 언어는 이 불변의 알맹이들을 식별할 수 있어야 하고 식별할 수 있다.” 이것을 가능하게 만든 것이 ‘군론’이라는 수학 이론이며 그것을 만든 이는 바로 에바리스트 갈루아이다. 에바리스트 갈루아(?variste galois)는 대혁명기의 프랑스에서 파리 인근의 부르라랭의 시장의 아들로 태어났으나 혁명의 혼란 속에서 20살에 비극적으로 생을 마감하게 된다. 그가 생전에 프랑스 과학원에 제출했던 논문은 이집트와 메소포타미아로부터 시작된 1,000여 년 동안 수많은 이들이 해결하려 했던 문제를 해결했던 것임에도 그 진정한 중요성은 이해되지 않았고 독단적인 아카데미와 위대했지만 자기중심적인 수학자들―대표적으로 오귀스탱 루이 코시를 들 수 있다―의 부주의함에 의해 소실되고 말았다. 여인이 개입된 모종의 결투로 인한 그의 죽음 역시 수많은 음모론을 낳았을 뿐 현재까지도 갈루아가 결투를 하게 된 정확한 원인 역시도 미스터리로 남아 있다. 하지만 갈루아의 동생 알프레와 친구 오귀스트 슈발리에는 자칫 망각의 심연으로 떨어질 뻔했던 갈루아의 유산을 다시 살려낸다. 갈루아가 생전에 남겼던 모든 원고들을 모아 수학자 조세프 리우빌에게 전함으로써 갈루아의 이름은 수학사에 불멸로 남게 되었다. ■ 1,000여 년에 걸친 대수방정식 해결의 역사, 그 종장인 5차방정식 장에서 군론이 태어나다! 수학사에서 군론이 등장하기까지의 역사는 파란만장하다. 수학의 여명기라 할 수 있는 이집트와 메소포타미아 문명으로부터 이 이야기는 시작한다. 현재 ‘아메스파피루스’ 혹은 그 파피루스를 최초로 발견한 이의 이름을 붙여 ‘린드파피루스’라고도 불리는 이 문서에 수록된 여러 수학 문제들은 요즘 수학 용어로 하면 1차방정식에 해당하는 것이었다. 이러한 1차방정식 문제들은 이후 수백 년 동안 반복적으로 역사에 등장한다. 그리스의 디오판토스의 비문에서 이탈리아의 피보나치가 쓴 『산반서』, 그리고 18세기의 영국 동요집 『마더구스』까지. 이 1차방정식과 함께 2차방정식의 해법을 찾는 노력 역시 수 세기를 거쳐 지속되었고 단순한 몇 가지 형태의 특정한 방정식에서 해를 구하게 되었으며 인도의 브라마굽타(598~670)에 이르러 최초로 음수해가 나오는 2차방정식도 해결되었다. 이러한 인도의 유산은 앞선 그리스, 아라비아의 수확과 더불어 유럽에 전파된다. 이제 대수방정식 해결을 위한 역사의 주무대는 유럽으로 옮겨진다. 3차방정식과 4차방정식을 해결하는 과정에서 델 페로, 타르타글리아, 카르다노, 페라리 이 네 사람을 둘러싸고 벌어졌던 일들은 수학사에서 가장 시끄러웠던 사건으로 남아 있다. 일반해를 찾는 일반 이론을 찾지는 못했지만 몇 가지 특수한 3차와 4차방정식을 최초로 해결한 사람으로 후세에 이름을 남기기 위해 그들이 벌였던 싸움은 현재의 지적소유권 분쟁의 양상보다 더 치열한 점이 있다. 결국 의사이자 수학자이며 천문학자이고 노름꾼이며 철학자이기도 한 카르다노의 이름이 당대에 널리 알려지게 되었고, 그의 『아르스 마그나』는 격찬을 받으며 유럽 수학계를 휩쓸게 되었다. 『아르스 마그나』를 학습한 이들은 이제 5차방정식이 오래지 않아 해결될 것이라 확신하게 되었고, 이후 수백 년 동안 5차방정식은 가장 흥미를 끄는 수학 문제 가운데 하나가 되었다. 라파엘 봄벨리, 프랑수아 비에테, 제임스 그레고리, 에렌프리트 발터 폰 치른하우스 백작, 에테엔느 베주, 레온하르트 오일러, 조세프 루이 라그랑주, 장 로베르 아르강, 요한 카를 가우스, 파올로 루피니 등 수많은 수학자들 모두 해를 구할 수 있을 것이라는 기대를 버리지 않았지만 해결의 단서만을 남겨둔 채 5차방정식의 역사에서 퇴장하게 된다. 그리고 이 역사의 한 복판에 노르웨이 출신의 닐스 헨리크 아벨과 프랑스의 에바리스트 갈루아가 수학사에 있어서 가장 비극적인 모습으로 등장한다. 26살의 나이에 가난에 찌들어 죽은 아벨과 20살의 나이에 결투로 생을 마감한 갈루아. 아벨은 사칙연산과 거듭제곱근으로 5차방정식의 해를 표현하지 못한다는 사실을 엄밀하고 명료하게 증명했다. 이 증명이 의미하는 바를 좀 더 쉽게 설명해 보자. 아벨은 일반 5차방정식과 그보다 차수가 높은 방정식의 경우 2차, 3차, 4차방정식에 통했던 방법이 더 이상 적용되지 않는다는 사실을 증명한 것이다. 다시 말해 계수만을 포함하는 대수적인 해 공식이 존재하지 않는다는 것이다. 결국 수십 명에 이르는 뛰어난 수학자들의 온갖 노력은 시시포스처럼 헛수고에 불과했다. 그렇다고 해서 5차방정식을 전혀 풀지 못한다는 뜻은