[수학 산책] "여백 부족해 증명을 적지 못한다"… 수학 최대 난제 350여년 만에 풀렸죠

 

[수학 산책] "여백 부족해 증명을 적지 못한다"… 수학 최대 난제 350여년 만에 풀렸죠

페르마의 마지막 정리

"나는 답을 알지만, 여백이 부족해 적지 못한다."

수학 답안지에 이렇게 적어서 낸다면 아마 0점을 받을 겁니다. 그런데 이 메모를 남겨 수백 년간 후대 수학자들을 애타게 한 사람이 있습니다. 프랑스의 피에르 페르마(1601~1665년·사진)입니다.

페르마는 1623년 오를레앙 대학교에 입학해 1626년 법학 학사 학위를 받은 법률가입니다. 원래 직업은 변호사였고, 취미로 수학을 즐긴 아마추어 수학자였어요. 그는 아무리 뛰어난 증명을 해도 '언론에서 주목받는 것이 싫다'는 이유로 절대 증명을 발표하지 않았어요.

페르마는 직각삼각형의 세 변 a, b, c에 대해 a²+b²=c²이 성립한다는 피타고라스 정리에서 제곱을 세제곱으로 바꾼 a³+b³=c³을 만족하는 정수 a, b, c는 없다고 생각했어요. 그러면서 이를 더 확장해 n이 2보다 클 때 aⁿ+bⁿ=cⁿ을 만족하는 정수 a, b, c는 없다고 했습니다. 떠오르는 모든 생각을 책의 여백 여기저기에 적어놓는 습관이 있었던 그는 1637년 "나는 이 공식을 증명할 놀라운 방법을 알고 있지만, 여백이 부족해 적지 못한다"고 보던 책에 적었습니다.

페르마가 책 귀퉁이에 남겨놓은 이 메모는 절대 증명되지 않았기 때문에 '페르마의 마지막 정리'란 이름을 얻게 됐습니다. 페르마의 마지막 정리를 증명하는 것은 수학자들에게는 마치 오르지 못하는 높은 산의 봉우리 같았죠.

독일의 사업가이자 아마추어 수학자인 파울 볼프스켈은 권총 자살을 결심하고 방아쇠를 당기려는 순간, 눈앞에 수학자 에른스트 쿠머가 쓴 페르마의 마지막 정리에 관한 논문이 보였대요. 그는 권총을 잠시 내려놓고 이 논문을 읽기 시작했고, 논문에서 결함을 발견했어요. 그는 자살하기로 했던 것을 잊고 직접 페르마의 마지막 정리를 증명하기 위해 연구를 시작했어요. 그러나 결국 증명에는 실패했고 그는 1906년에 이 정리를 증명한 사람에게 10만 마르크를 상으로 주라는 유언을 남기고 죽었습니다. 이후에 상금은 점점 불어나 우리 돈으로 약 20억원에 달했어요.

1963년 앤드루 와일스라는 10세 소년이 도서관에서 수학자 에릭 템플 벨이 쓴 '최후의 문제'라는 책을 빌렸습니다. 이 책에서 벨은 인류가 멸망할 때까지 페르마의 마지막 정리는 증명되지 않을 것이라고 예측했어요. 와일스는 벨이 틀렸다는 것을 보여주겠다고 마음먹었습니다. 와일스는 1986년 프린스턴 대학교 교수로 일하다 페르마의 마지막 정리를 증명할 중요한 수학 이론을 접했어요. 잊고 있던 어린 시절 꿈이 생각난 와일스는 페르마의 마지막 정리를 증명하기 위한 연구에 전념했어요. 7년 연구 끝에 마침내 1994년 9월 19일에 약 110쪽에 이르는 완벽한 증명을 완성했습니다. 동료 수학자들은 와일스의 증명을 3년에 걸쳐서 검증했고 완벽하다는 결론을 내렸죠.

와일스는 페르마의 마지막 정리를 풀어 '볼프스켈상'을 받았습니다. 페르마의 마지막 정리를 푼 사람을 위한 유일한 상이었기 때문에 90년 동안 수상자가 한 명도 없다가 와일스가 수상하자마자 없어졌답니다.

이광연 한서대 수학과 교수