세계에서 제일 어려운 수학문제

윤여찬2006.10.11
조회60

"x^n + y^n = z^n(n은 3이상의 정수)을 만족하는 정수해 x,y,z는 존재하지 않는다. 단, x,y,z중 하나가 0이거나 모두 0인 경우는 제외한다."

또 그 이상의 거듭제곱에 대해서도 성립하여 일반적으로 인 정수 에 대하여 부정 방정 식의 정수해는 없다.

이것은 페르마의 마지막 정리(Last Theorem) 또는 페르마의 大定理(Great Theorem) 또는 페르마의 추측이라고 한다. 그의 이 추측은 수학사에서 가장 유명한 문제 중의 하나이다.

페르마 자신이 과연 증명하고 있었는지 어떤지는 모르지만 유명한 수학자를 포함하여 많은사람들이 풀려고 시도했지만 실패로 끝났기 때문이다. 이 특별한 자연수일 때에 대하여는 제각기의 방법으로 증명되어 있으나, 일반적 인 증명은 발견되지 못했다. 1908년에 독일의 파울-윌스켈이 남긴 유언에 의하여, 2007년까지 이 증명을 완성한 사람에게는 10만 마르크의 상금이 주어지게 되어있었는데,

그러다가 1993년 프린스턴 대학의 엔드루 와일즈(Andrew Wiels)교수가 드디어 페르마의 마지막 정리의 증명을 공개하기에 이르렀다. 당시에 전 세계의 메스컴들이 앞 다투어 이 사실을 보도했고 BBC방송국의 "호라이즌" 제작 팀도 이 역사적인 사실을 다큐멘타리로 제작하려는 계획을 세웠다.

아무한테도 알리지 않고 7년간 외로운 싸움이라할 수 있는 연구 끝에 발표한 외일즈는 전세계 수학계로부터 쏟아지는 찬사를 받았다. 그의 증명은 여러 분야의 수학적 개념들을 하나로 통합한 "통일된 수학"의 기틀을 마련했다. 페르마의 정리는 현대 수학의 모든 테크닉을 총동원해야만 증명될 수 있는 수학의 정점인 것이다.

그러나 그 후 와일즈의 증명에서 조그만 오류가 발견되었다. 1년간의 또다른 비밀스런 작업이 계속되었지만 와일즈는 날이 갈수록 미궁에 빠져들어갔고 드디어 TV방송국의 계획도 취소 되었으며 세상사람들은 과거에 수 많은 수학자들이 밟아왔던 길을 와이즈도 걷고 있다고 생각하기에 이르렀다.

사실 와일즈는 그 자신이 7년간 연구하면서 이 사실을 비밀에 부치기 위하여 다른 분야의 논문을 몇 편 미리 써놓고 가끔씩 그 논문들을 발표하여 마치 자기는 페르마의 정리와는 관계없는 연구를 하는 것처럼 위장술을 발휘하였던 것이다. 왜냐하면 와일즈는 그가 연구하는 내용이 세상에 알려지고 마지막 중요한 단계에서 다른 수학자가 몇 년 동안 와일즈가 투자가 시간을 공짜로 벌고 한발 앞서서 최종결과를 발표하여 명예를 독차지하게 될 것을 매우 두려워했기 때문이다. 이러한 생각은 비단 수학자 뿐만 아니라 모든 연구가들에게 있어서 마찬가지 일 것이다. 오류를 해결하려는 또 다른 세월 속에서 지치다가 더 이상 못 견디게 되었을 때 외일즈는 테일러교수를 만났고 둘이서는 서로를 격려해가며 마지막 투혼을 불사르고 있었다.

마침내 와일즈는 평생 잊을 수 없는 환희의 순간을 맞이했다. 그는 계산결과를 약 20분 동안 멍하니 바라보았다고 한다. 드디어 해낸 것이다. 1994년 10월 25일 페르마는 자신이 증명한 "페르마의 마지막 정리", 그리고 동료교수인 리처드 테일러와 함께 증명한 "헤게 대수학의 고리이론적성질" 두 논문을 전자우편으로 공개하였는데 두번째 논문은 첫번째 논문에서의 가장 중요한 부분을 집중적으로 다루었다.