세계 7대 수학 난제 중 유일하게 풀린 푸앵카레의 추측

[GettyImages]

수학이라면 지긋지긋하다. 학창 시절 풀리지 않는 문제 때문에 머리를 싸매다 보면 풀고 있는 것이 나인지 나비인지, 호접지몽을 꾸는 경지에 이르곤 했다. 지금이야 정말 그렇게 어려웠을까 하는 생각이 들기도 하지만, 난이도라는 것은 상대적이니 쉽게 단정할 수 없다. 물론 절대적인 극악의 난도 문제가 존재하기도 한다. 바로 밀레니엄 문제로 불리는 세계 7대 난제다. 

2000년 다가오는 21세기를 한껏 기대하던 수학자들은 뭔가 재미있는 이벤트가 없을까 고민하다 수학계에서 가장 중요하고 어려운 문제 7개를 뽑기로 했다. 나비에-스토크스 방정식, 리만 가설, 버츠와 스위너톤 다이어 추측, 양-밀스 질량 간극 가설, 호지 추측, P-NP 문제, 그리고 푸앵카레 추측. 왠지 외워두면 명절에 퀴즈쇼를 보다 아는 척할 기회가 평생 한 번쯤은 올 것 같지만, 그러기엔 뇌 용량이 아까울 수도 있다. 중요한 점은 이 가운데 풀린 문제가 딱 하나 있다는 것이다. 바로 푸앵카레 추측이다. 

3분 만에 먹는 레토르트 식품과 비슷한 이름을 갖고 있다거나 유일하게 증명됐다고 해서 우습게 봐서는 곤란하다. 그 추측이 제기된 1904년 이후 증명하기까지 100년 가까이 되는 긴 시간이 걸렸고, 저명한 수학자들이 증명한 내용을 검증하는 데만 꼬박 3년이 소요됐다. 여기서 이 증명 내용을 이해하는 건 불가능하겠지만, 해결 과정이 얼마나 훌륭했는지 느낄 수 있기를.

우주의 모양이 궁금했던 푸앵카레

앙리 푸앵카레(왼쪽)와 도넛 모양 지구. [researchgate, vice]

인류 탐험 역사에서 페르디난드 마젤란은 지구를 돌았다. 그리고 확신했다. 지구는 둥글구나. 모두가 환호했지만, 한 사람은 고개를 저었다. 지구가 구형이 아니라 가운데 구멍이 뚫린 도넛 모양이어도 역시 배를 타고 한 바퀴 돌 수 있다는 것이 그의 주장이었다. 그리고 그가 새롭게 제안한 방식은 배에 밧줄을 달고 지구를 한 바퀴 돈 뒤 밧줄을 끌어당기는 것이었다. 어디에도 걸리지 않고 당겨진다면 지구는 둥근 게 맞다. 하지만 밧줄이 어딘가에 걸린다면 지구는 구형이 아니라 도넛 모양일 수도 있다. 터무니없는 트집을 잡았던 그는 프랑스 금수저 수학자인 앙리 푸앵카레(1854~1912)였다. 

푸앵카레는 아버지가 의대 교수, 사촌동생(레몽 푸앵카레)이 프랑스 12대 대통령일 정도로 명문가에서 명석한 두뇌를 갖고 태어났다. 위상수학, 대수기하학, 상대론, 천체역학, 미분방정식, 열역학, 과학철학 등 다양한 분야에서 업적을 남겼기에, 수학자이면서도 노벨물리학상 후보로 자주 거론됐다. 평소 우주에 관심이 많았던 그는 어느 날 우주의 모양을 알 수 있을 것이라 생각하며, 한 가지 추측을 내놓았다. 바로 푸앵카레 추측이다. 



그 수식을 말로 옮기면 다음과 같다. ‘명확하게 끊어지는 부분이 없이 하나로 연결된, 닫혀 있고 무한하게 뻗어나가지 않는 세상의 다양한 형태는 당구공과 위상동형이다.’ 역시 어렵다. 이번에는 마젤란이 지구를 돌 때 사용할 뻔했던 밧줄이라는 개념을 넣어보자. 우주에 어떻게 밧줄이 놓여 있더라도, 자르거나 끊지 않고 한 점으로 모을 수 있다면 우주는 당구공과 위상동형이다. 

[Britannica]

위상동형이라는 표현은 생소한데, 위상수학의 개념이다. 기존 기하학에서는 삼각형, 사각형, 원은 전혀 다르게 정의되는 도형이지만, 위상수학에서는 셋 모두 같다고 보며 위상동형이라 부른다. 가위로 자르지 않고, 오직 조물조물 주물러 비슷한 모양으로 만들 수 있다면 전부 위상동형이다. 쉽게 말해 대충 비슷하다는 것이다. 

우리가 살 집을 고를 때는 구조를 보면서 까다롭게 살핀다. 집이 25평형이라면 방이 몇 개고 문이 어디에 있는지가 중요하다. 하지만 100평형은 어떨까. 이미 충분히 넓기 때문에 아마 예전만큼 꼼꼼히 보지는 않을 것이다. 만약 수십만 평의 넓은 집이라면, 아니 아예 무한대에 가까운 크기의 집이라면 세세한 구조가 중요할까. 아마 전혀 중요하지 않을 테다. 우주는 굉장히 넓기 때문에 형태를 알아내는 것이 너무 어렵지만, 아주 단순화한다면 대략적으로라도 추측할 수 있지 않을까. 

우주선에 밧줄을 달고 우주를 크게 한 바퀴 돌아 다시 지구로 귀환했을 때, 출발 당시 지구에 묶여 있던 밧줄과 도착한 밧줄 끝을 함께 잡아당겨 어디에도 걸리지 않고 끝까지 당길 수 있다면 우주의 모양은 당구공과 대충 비슷하다는 말이다. 우주를 탐험하려면 대강의 형태를 알아야 했고, 그래서 푸앵카레는 인류에게 아주 위대한 추측을 던졌다.

98년 만에 증명된 희대의 난제

3차원 공간에서 위상동형이 아닌 8가지 형태를 축출한 기하화 추측(왼쪽)과 이를 선별해낸 미국 수학자 윌리엄 서스턴. [EBS 화면 캡처, MFO_Mathematisches Forschungsinstitut]

앵카레는 먼저 우주가 몇 차원인지 궁금했다. 2차원 평면의 존재가 우리를 볼 수 없는 것처럼, 3차원 세계의 우리는 4차원 존재를 상상할 수 없다. 그런데 수학에서는 아주 쉽게 해결된다. 1차원은 하나의 좌표이며, 2차원은 2개, 3차원은 3개, 심지어 무한대 차원까지 수학적으로는 적을 수 있다. 

그럼 지구는 몇 차원일까. 3차원일 것 같지만, 2차원이다. 우리는 지구의 모든 위치를 위도와 경도 단 두 가지 좌표로만 표현한다. 지구는 3차원이지만, 지구 표면은 2차원이라는 말이다. 아파트 꼭대기에 올라가봐야 그 정도 높이는 무시할 만한 수준이다. 우리는 2차원인 지구 표면을 여행한다. 하지만 실제 지구는 3차원이다. 만약 우주여행을 하는 것이 4차원의 표면인 3차원을 움직이는 것이라면 밧줄을 달고 한 바퀴 돌아서 오는 방법으로 3차원 우주 안에서 4차원 우주의 형태를 알 수 있지 않을까. 이게 바로 진짜 푸앵카레 추측이다. 물론 푸앵카레 추측이 증명됐다고 해서, 실제 우주의 모양을 밝혀낼 수 있다는 말은 아니다. 범죄자를 지목한 것이 아니라 범인을 검거하는 수사방식이 일리가 있다는 뜻이다. 

이제 수많은 수학자의 여정이 시작됐다. 푸앵카레 추측은 고차원일 때 먼저 풀리고 저차원일수록 풀기 어렵다. 밧줄을 당길 때 차원이 낮으면 꼬여버리는데, 차원이 높으면 엉키기가 쉽지 않기 때문이라고 이해하면 쉽다. 

5차원 이상에서 푸앵카레 추측을 완벽하게 증명해낸 스티븐 스메일 박사, 4차원에서 푸앵카레 추측을 증명한 마이클 프리드먼을 지나 미국 수학자 윌리엄 서스턴은 드디어 3차원에서 우주의 형태가 될 만한 후보를 8개로 압축해냈다. 이를 ‘기하화 추측’이라고 한다. 즉 3차원 세상에서 모든 형태는 구 모양 1개와 도넛 모양이 변형된 7개 딱 8종밖에 없고, 우주는 그중 하나의 모양이라는 뜻이다. 기하화 추측이 증명되면 존재하는 8개의 형태 가운데 밧줄을 잡아당겼을 때 어디에도 걸리지 않는 건 구 모양뿐이니, 자연히 우주는 당구공 모양이 될 수 있으며 푸앵카레의 추측도 증명된다. 

그리고 2002년 11월 11일 온라인 논문 자료실에 한 편의 논문이 조용히 올라왔다. 바로 기하화 추측을 증명하는 내용이었다. 그리고리 페렐만의 등장이었다. 존재하는 모든 형태를 잘라내고 부드럽게 마감 처리해 딱 8개의 형태로 표현했으며, 기하화 추측의 증명을 통해 푸앵카레 추측도 함께 해결했다. 1904년부터 98년 동안 누구도 못 했던 가설의 증명, 밀레니엄 난제의 해결을 37세 젊은 수학자가 해낸 것이다. 

쉬워 보이지만, 물리학의 엔트로피까지 응용했기 때문에 굉장히 어렵다. 단지 39쪽의 짧은 논문을 검증하고자 미국 예일대와 컬럼비아대 등의 저명한 수학자들이 모여 팀을 짜고 1000쪽에 달하는 해설서를 만들었다. 그리고 2006년 푸앵카레 추측이 완전히 증명됐다고 선언한 존 모건 교수는 페렐만의 증명에 대해 이렇게 소감을 남겼다. “우리는 이 어려운 난제의 증명이 끝나버린 것에 낙담했다. 그리고 위상수학을 사용하지 않고 증명한 것에 낙담했다. 심지어 증명한 내용을 처음에는 누구도 이해하지 못한 것에도 낙담했다.”

‘거절장인’이 된 수학 천재

어머니와 실업수당으로 연명하고 있는 그리고리 페렐만(왼쪽). [hdclub, arhivach]

세계 최고 수학자들에게 3단 고음 수준의 3단 낙담을 안겨준 페렐만은 천재 수학자 오일러의 도시 상트페테르부르크에서 태어났다. 박사를 마치고 스탠퍼드대, 프린스턴대 등 유명 대학으로부터 교수직 초청을 받았지만 거절하고, 수학 외 다른 건 안 하겠다는 일념으로 고향인 상트페테르부르크 스테클로프 수학연구소로 진로를 결정했다. 1996년 유럽수학회 상도 자신의 연구가 완성되지 않았다는 이유로 거절했다. 

푸앵카레 추측을 증명한 이후 중국계 미국인 수학자 야우싱퉁이 페렐만의 논문을 그대로 베껴 그의 증명은 틀렸고 우리가 한 증명이 진짜라고 주장했는데, 여기서 크게 상처받은 페렐만은 2006년 국제수학자대회에서 필즈상 거절, 국제수학연맹 회장이 러시아까지 찾아가 삼고초려했는데도 거절, 미국 우수 대학들 교수직도 전부 거절, 3년 후 클레이 수학연구소에서 밀레니엄 난제를 해결했으니 11억 원 상금을 주겠다고 했지만 거절, 철벽남이라 연락조차 거절, 상트페테르부르크에서 상금 받아 기부하라고 했으나 역시 거절, 러시안 과학 아카데미에서 정회원으로 추천했으나 거절, 전 세계 유명 매체의 인터뷰 역시 모두 거절했다. 

현재 그는 어머니와 단둘이 작은 아파트에 살며 나라에서 주는 실업수당으로 끼니를 연명하고 4차원에 존재하는 형태는 몇 개일지 찾고 있는 것으로 알려졌다. 그저 원해서 공부했고, 그래서 연구했을 뿐인 페렐만은 유명해지고 싶은 마음이 전혀 없었고, 오직 연구만 하고 싶었던 것이다. 그리고 그 이유는 처음 추측을 제시한 푸앵카레가 한 말에서 찾을 수 있다. 과학자가 자연을 연구하는 이유는 쓸모 있기 때문이 아니라 아름답기 때문이다. 만약 자연이 연구할 가치가 없다면 우리의 인생 또한 살 가치가 없을 것이다. 

수학 이론을 연구하는 것이 세상을 살아가는 데 쓸모가 없다고 말하는 사람도 있다. 하지만 상관없다. 수학자들은 사실 아름답고 경이롭기 때문에 하는 것이니까. 이건 생각보다 굉장히 큰 가치다. 물론 당연히 쓸모가 있기도 하지만 말이다.

_{궤도_ 연세대 천문우주학과 학부 및 대학원을 졸업한 후 한국천문연구원 우주감시센터와 연세대 우주비행제어연구실에서 근무했다. ‘궤도’라는 예명으로 ‘팟캐스트 과장창’ ‘유튜브 안될과학’을 진행하고 있으며, 저서로는 ‘궤도의 과학 허세’가 있다.}