페르마의 마지막 정리

예전에 통계문제로 인터넷으로 각종 수학사이트를 돌아다니다가,

가는곳마다 거의 이책에 대한 내용이 있어서

인터넷에서 조회해보니 좋은 내용이라고 해서 읽어봤던책.

처음에는 왠 수학... 하면서 망설였는데,

자신의 목표를 향해 노력하는 앤드류 와일즈의 도전 정신과 목표에 헌신하는 모습, 철저한 준비정신에 푹 빠졌었다.


미련하게 아무런 목표없이 열심히 일만하거나, 살아가는 사람들에게 필요한 책.


꿈을 향해, 목표를 향해, 뚜렷한 비전을 향해 나아가는 모습...


지금 이 시점에서 내가 다시 한번 내가 점검해볼 나의 모습이다...





수학공식 증명위해 인생을 건 수학자들
한겨레신문 이원근 (과학커뮤니케이션연구소 소장)

책방에서는 신간이 왕이다. 과학도서는 그 증상이 심해서, 몇 년이 지난 책은 아예 구할 수가 없다. 과학의 지식이 끊임없이 변하기 때문이기도 하겠지만, 불과 몇 년이라도 명성이 유지될 만한 좋은 책이 드문 탓도 있을 것이다. 『페르마의 마지막 정리』는 그 드문 책 중 하나가 될 만한 책이다.

수학적 증명은 생물학에서 DNA구조의 발견과 비유되는 쾌거다. 이 책은 `페르마의 마지막 정리'라는 하나의 수학공식을 증명하기 위해 일어나는 350년의 우여곡절을 그린 짜릿한 드라마를 담고 있다.

“xⁿ+yⁿ=zⁿ;n이 3이상의 정수일 때 방정식을 만족하는 정수해 x, y, z는 존재하지 않는다. 나는 경이적 방법으로 이 정리를 증명했다. 그러나 책 여백이 너무 좁아 여기 옮기지는 않겠다.” 이것이 17세기 프랑스의 아마추어 수학자 페르마가 <아리스메티카>라는 책에 남긴 페르마의 마지막 정리의 전부다. 여백을 핑계로 남기지 않은 증명과정을 밝히기 위해 무려 350년 동안 숱한 천재 과학자가 실패와 좌절의 늪으로 사라져 갔다. 20세기초부터는 아예 5만 달러의 현상금(볼프스켈 상)까지 붙을 정도였다.

그런데, 1970년대 당시 10대 소년이던 앤드루 와일스가 영국 케임브리지의 도서관에서 이 정리를 만나면서 운명의 역사는 시작된다. 여기에 인생을 건 그는 수학자가 되고, 1993년 케임브리지대학 뉴턴수학연구소에서 그 증명과정을 처음 소개하는 세기의 사건을 일으킨다. 작은 오류를 수정하는 1년의 각고와 악몽을 다시 겪고, 1997년 볼프스켈상 5만 달러를 받으면서 드라마는 끝난다.

수학공식을 둘러싼 실패와 성공의 드라마. 필자가 케임브리지 유학시절 일어났던 일이라 느낌이 남다른 지도 모르지만, 무미건조한 학문이라는 수학에 대한 편견을 송두리째 무너뜨리는 이야기다. 무엇보다 한 청소년에게 다가온 작은 계기가 수학사의 쾌거로 이어지는 과정을 보는 희열이 너무 좋다. 책의 곳곳에 나오는 수학공식은 건너뛰어도 좋다. 10대 이상이면 도전하라.




정호의 정리

와일즈는 자신이 페르마의 마지막 정리와 처음 대면하던 순간을 이렇게 회고했다. 그것은 너무나 단순한 문제였습니다. 열 살배기인 저도 문제의 내용을 정확하게 이해할 수 있었지요. 그런데 그 문제를 푼 수학자가 아무도 없다는 거였습니다. 그 순간 저는 어떤 운명 같은 걸 느꼈어요. 이 문제를 내가 풀어야 한다는 일종의 의무감 같은 거였지요. 그날 이후로 페르마의 마지막 정리는 한시도 제 머릿속을 떠나지 않았습니다.

인생이란 지금 당신이 보고 있는 운동경기와 비슷합니다. 이렇게 많은 군중들이 지켜보는 가운데 어떤 이는 재물을 구하는 일에 몰두하고, 또 어떤 이는 명예와 영광을 얻으려는 야망에 빠지기도 합니다. 그러나 그들 중에는 지금 눈앞에서 벌어지고 있는 모든 것을 주의 깊게 바라보면서 이해하려고 애쓰는 사람들도 있습니다.
이것이 바로 인생입니다. 어떤 이는 재물을 탐하고, 또 어떤 이는 권력과 권세를 향한 맹목적 정열에 휩싸여 있습니다. 이들은 자연의 숨겨진 비밀을 찾아 헤매고 있습니다. 완전무결한 현자란 있을 수 없겠지만, 이들이 바로 철학자입니다. 그들은 지혜를 사랑하고, 자연의 비밀을 탐구하는 열정을 여기는 사람들입니다.

인간의 어설픈 분별력을 초월하여 절대의 진리를 찾아내는 방법-그것이 바로 수학이라는 것이다.

나만큼 똑똑한 수학자가 있으면 한번 나와보라구 그래!

어린 시절, 페르마의 마지막 정리를 처음 본 이후로, 제 인생의 유일한 목표는 그 정리를 증명해 내는 것이었습니다. 앤드류 와일즈는 다소 머뭇거리는 말투로 자신의 지난날들을 이렇게 회상했다. 그는 페르마의 마지막 정리를 증명하기 위해 살아온 사람이었다.

페르마의 마지막 정리에 매달리는 수학자들에게는 대체로 두 가지의 이유가 있었다. 첫째 이유는 자신의 분야에서 최고가 되려는 야망 때문이라고 할 수 있다. 둘째로 페르마의 마지막 정리와 씨름을 벌이는 그 자체만으로도 사람들은 수수께끼에 도전한다는 순수한 만족감을 느낄 수 있었다. 대가성이 없는 그야말로 순수한 즐거움이라 할 수 있다. 문제를 해결하면서 느끼는 즐거움이나 성취감은 그 정도가 크게 다르지 않다는 것이다. 여러 해 동안 씨름을 벌이다가 해답을 찾아냈다면, 그 짜릿한 성취감은 겪어본 사람만이 알 수 있을 것이다.
수학은 과학기술 분야에 자주 응용되고 있지만 이를 위해 수학이 존재하는 것은 아니다. 새로운 발견을 이루어냈을 때 느끼는 즐거움-이것이야말로 수학의 진정한 존재가치이다.
만일 체스 문제가 실제 생활에 전혀 도움이 안 되는 무용지물이라고 생각한다면, 모든 분야의 수학도 똑같이 무용지물이 될 것이다. 나는 지금까지 유용한 일을 한번도 해본 적이 없다. 나는 그 동안 내가 이루어온 수학적 발견들을 이용하여 직접, 또는 간접적으로 세상에 무언가 유용한 공헌을 하거나 해를 끼친 적이 한번도 없으며, 또 그럴 가능성도 없다. 나의 업적은 이 세상의 문화적 진보와 아무런 상관이 없다. 현실적인 기준에서 판단해 볼 때, 수학에 매달려 살아온 내 인생의 가치는 한마디로 무(無) 그 자체이다. 그리고 나는 수학 이외의 분야에서 어떠한 업적도 이루지 못했다. 수학으로 일관했던 나의 삶이 그래도 나름대로의 의미를 가질 수 있는 것은 내가 창조할 만한 가치가 있는 그 무언가를 창조해 낸다는 점이다. 그리고 내가 창조한 것은 절대로 부인될 수 없는 존재이다-그것이 어느 정도의 가치를 갖는지는 내 스스로 판단할 일이 아니다.

다른 사람들과 마찬가지로 저 역시 타니야마-시무라의 추론은 증명이 불가능하다는 심증을 굳히게 되었습니다. 이런 상황에서도 자신의 꿈을 끝까지 포기하지 않고 고독한 싸움을 계속해 나갈 수 있는 사람은 진정으로 용기 있는 사람이겠지요. 앤드류 와일즈가 바로 그런 사람이었습니다.

능숙한 문제 해결사는 두 가지 자질을 동시에 갖고 있어야 한다. 끊임없는 상상력과 불굴의 의지가 바로 그것이다.

와일즈도 낙관만 하고 있지는 않았다. 그러나 자신이 페르마의 마지막 정리를 증명하는 데 결국 실패한다 해도 그것은 나름대로 가치 있는 일이라고 생각했다. 물론 타니야마-시무라이 추론은 여러 해 동안 아무도 증명하지 못한 난제임에 틀림없었지요. 그럴듯한 아이디어조차 전무한 상태였습니다. 그러나 아무리 어렵다고 해도 그것은 분명히 현대 수학의 주류를 이루는 중요한 문제였습니다. 증명을 완전하게 끝내지 못한다 해도 시도해 볼 만한 가치는 있었어요. 일부만 증명되어도 수학은 그만큼 발전하게 될 테니까 말이죠. 시간 낭비라는 생각은 조금도 하지 않았습니다. 일생 동안 저를 따라다녔던 페르마의 환영이 이제 드디어 저의 전문적인 지식을 밑천삼아 대적할 수 있는 대상으로 느껴지기 시작했던 겁니다.

와일즈는 목적 달성을 위해서는 문제에 완전히 몰입해야 한다는 것을 잘 알고 있었다. 그리고 그는 실패를 받아들일 준비가 되어 있었다. 그는 최신의 계산법을 익혀나갔다. 계산이 완전히 손에 익어 습관처럼 몸에 배일 때까지, 그는 지루할 정도로 연습을 반복했다. 한바탕 벌어질 전쟁에 대비하여 필요한 무기들을 모두 준비한 뒤에, 와일즈는 타원 방정식과 모듈 형태에 관련된 무든 수학들을 섭렵하면서 18개의 시간을 보냈다. 그러나 그 정도는 시작에 불과했다. 그는 완전한 증명을 끝내기 위해서는 오로지 한 가지 생각만으로 10년 이상의 세월을 인내해야 한다고 생각했다.
와일즈는 페르마의 마지막 정리를 증명하는 것과 직접적인 관련이 없는 모든 일에서 손을 뗐다. 전세계를 돌면서 끊임없이 계속되는 학술모임과 세미나에도 더 이상 참석하지 않았다. 다른 학자들과 교류가 거의 없는 상태에서 와일즈는 기존의 계산법을 더욱 강화시키는데 주력하였으며, 타니야마-시무라의 추론을 정복하기 위한 작전을 구상하는 데 모든 시간을 쏟아 부었다.

무언가 새로운 아이디어가 떠오르려면 한 문제에 완전히 집중한 채로 엄청난 시간을 인내해야만 합니다. 다른 생각 없이 오로지 그 문제만 생각해야 합니다. 한마디로 집중, 그 자체지요. 그런 다음에 생각을 멈추고 잠시 휴식을 취하면 무의식이 서서히 작동하기 시작합니다. 바로 이때 새로운 영감이 떠오르게 되지요. 완전히 집중 뒤의 휴식-이 때가 가장 중요한 순간입니다.

해답을 구하기 위해 와일즈는 자신이 개발한 방법을 어려운 문제들에 적용시켜 보았다. “저는 이따금씩 낙서하는 습관이 있습니다. 뭔가 중요한 내용을 담고 있는 게 아니라 그저 무의식적으로 휘갈기는 낙서 말입니다. 저는 컴퓨터를 전혀 사용하지 않았습니다.” 정수론을 연구할 때 흔히 있는 일이지만, 이런 경우에 컴퓨터는 별로 도움이 되지 않는다. 타니야마-시무라의 추론은 무한히 많은 방정식에 적용되기 때문에 제아무리 연산속도가 빠른 컴퓨터라 해도 모든 경우를 일일이 확인해 볼 수 있다. 이런 무식한 방법보다는 논리적인 단계를 거쳐 모든 타원 방정식이 모듈적일 수밖에 없는 이유를 일괄적으로 설명해 주는 수학적 방법을 찾아야 했다. 와일즈는 이것을 구현하기 위해 오로지 종이와 연필, 그리고 자신의 머리만을 사용했다. “자나 깨나 한 가지 생각뿐이었습니다. 아침에 일어나서 밤에 잠자리에 들 때까지 저는 타니야마-시무라의 추론과 함께 살았습니다. 아무런 방해도 받지 않은 채 제 마음속에는 계속해서 동일한 과정이 되풀이되고 있었지요.”

제가 바른 길을 가고 있다는 확신은 있었지만, 그렇다고 제가 반드시 성공한다는 보장은 어디에도 없었습니다. 오늘날의 수학으로는 해결이 불가능할 수도 있지 않겠습니까? 앞으로 100년 동안은 이 특별한 문제를 풀 만한 수학이 개발되지 않을지도 모르는 일이었습니다. 제가 올바른 길을 가고 있다 해도, 시기를 잘못 택했다면 그야말로 아무런 대책이 없겠지요.

분명히 그것은 대단한 광경이었습니다. 하지만 제게는 묘한 감정이 떠오르더군요. 지난 7년 동안 페르마의 마지막 정리는 제 삶의 일부분이었습니다. 제 인생의 목표이기도 했고요. 이제 그 일을 내 손으로 해치우고 나니 속이 다 후련했습니다. 그런데 이상하게도 마음 한구석이 텅 빈 것 같은 느낌을 지울 수가 없더군요. 제 자신의 일부분이 떨어져 나간 듯한 기분이었습니다.

타니야마-시무라이 추론이 증명된 것에 매우 커다란 의미를 두고 있었다. “무엇보다도 심리적으로 자신감을 얻었다는 것이 중요합니다. 과거에는 감히 접근조차 하지 못했던 다른 문제들에 대하여, 지금은 정면 도전을 할 수 있게 되었으니까요.

분명한 것은 컴퓨터로 이루어낸 증명이 사람의 손으로 이루어진 증명보다 학계의 관심을 끌지 못할 뿐만 아니라 대체로 과소평가되는 경향이 있다는 점이다. 수학적 증명이란, 단순히 질문의 해답을 찾는 것이 아니라 해답이 왜 그것이어야만 하는지를 우리에게 이해시킬 수 있어야 한다. 블랙박스의 입구에 질문을 입력시키고 반대쪽 출구에서 답을 얻어낸다면 지식은 쌓이겠지만 거기에 이해란 있을 수 없다.

아무리 단순한 명제에서 출발했다 해도 논리의 전개과정에서 오류가 발생하면 그 결과는 얼마든지 황당무계해질 수 있다.