1988년 미국 수학 잡지 ‘매서매티컬 인텔리전서(Mathematical Intelligencer)’는 흥미로운 설문조사를 진행했다. 바로 세상에서 가장 아름다운 수학 공식을 뽑는 것이었다. ‘수학계 프로듀스×101’의 참가 연습생 후보는 총 24개 공식이었고, 2년에 걸친 치열한 접전 끝에 최종 선정된 식은 바로 ‘오일러 항등식’이었다.
 
이 공식이 어떤 것인지 알아보기 전, 수학에서 가장 아름다운 수에 대해 먼저 생각해보자. 실체가 없는 무형의 존재 수에 아름답다는 형용사를 붙이는 것이 가당키나 할까 싶지만, 굳이 찾아보자면 어떤 게 있을까. 어쩌면 가장 단순한 수가 궁극의 아름다움을 갖췄을지도 모른다. 바로 0, 1, π, i, e처럼 말이다. 오일러 항등식은 아름다운 다섯 가지 수의 결합만으로 만들어진다. 그러니 가장 아름다운 공식에 선정될 수밖에 없었겠지. 실수와 허수가 힘을 합쳐 무(無)로 돌아가는 것보다 아름다운 공식이 또 있을까. 

그로부터 14년 후 오일러 항등식은 영국 물리학회지 ‘피직스 월드(Physics World)’가 주관한 과학계의 가장 아름다운 방정식에도 재차 선정됐다. 식 자체에 이미 나와 있듯이, 자연으로부터 궁극의 미적 하모니를 찾아낸 천재 수학자의 이름은 바로 레온하르트 오일러(1707~1783)다.

역사상 유명한 미해결 문제 전문가

스위스 출신의 수학자 오일러는 목사인 아버지와 목사의 딸인 어머니 사이에서 육 남매 중 첫째로 태어났다. 독실한 종교집안이다 보니 그의 아버지는 오일러가 신학을 진지하게 공부하길 원했다. 하지만 비상한 기억력을 갖고 있던 오일러는 다른 과목들을 빠르게 공부한 뒤 나머지 시간에 늘 수학 공부에만 집중했다. 오일러의 재능을 눈여겨본 당대 최고 수학자 요한 베르누이가 직접 그의 아버지를 설득했고, 결국 오일러는 수학자의 길을 걷게 됐다. 

한창 사춘기가 시작될 무렵인 13세 때 오일러는 스위스에서 가장 오래된 대학교인 바젤대에 입학했고, 남들은 10년 이상 걸리는 석·박사학위를 6년 만에 마치고 초고속으로 졸업해버렸다. 당시 러시아 상트페테르부르크 과학아카데미(현 러시아과학아카데미)에 있던 요한 베르누이의 아들 다니엘 베르누이의 추천으로 러시아로 온 오일러는 24세에 물리학과 정교수가 됐으며, 2년 만에 최고 수학자 자리에 올랐다. 뉴질랜드에서 온 한국어 전공의 샘 해밍턴이 국어 교과서 개정에 참여한다면 정말 대단한 일일 텐데, 오일러는 러시아에서 실제로 수학 교과서를 펴냈다. 그 외에도 러시아 정부가 요청한 실용적인 문제를 수학적 사고력으로 처리한 그는 유명한 난제도 하나 해결해냈다. 바로 ‘쾨니히스베르크의 다리 건너기’ 문제다. 

당시 프로이센의 쾨니히스베르크에는 프레골랴강이 흐르고 있었고, 강 중심에 자리한 섬과 연결된 일곱 개의 다리를 통해 사람들이 오갔다. 그때 도시에 전해지는 전설처럼 검증되지 않은 소문이 나돌았는데, 이 다리를 딱 한 번씩만 지나 모든 다리를 건널 수 있다는 이야기였다. 어떤 사람은 몇 번 만에 성공했다느니, 사실 절대 성공할 수 없다느니 말이 많았지만 누구도 확실하게 증거를 제시하지 못했다. 그런데 1735년 오일러가 이것이 불가능함을 수학적으로 증명해냈다. 결론은 한붓그리기 문제인데, 붓을 종이에서 한 번도 떼지 않고는 결코 그려낼 수 없다는 사실을 검증한 이것으로부터 ‘오일러 경로 문제’가 나왔다.



오일러가 수학 분야에 남긴 발자취는 너무 많아 다 적을 수조차 없다. 가장 아름다운 공식에 사용된 오일러의 수(e)뿐 아니라, 원주율(π), 허수 기호(i)도 오일러가 처음 표기했으며, 삼각함수 기호인 sin, cos, tan도 마찬가지다. 특히 역사상 유명한 미해결 문제를 접할 때면 늘 오일러의 이름이 언급될 정도로 중요한 힌트를 남겼다.

‘수학계의 타노스’로 불리는 리만 가설에서도 그의 역할은 중대했다. 자기 자신 외에 더는 나눠지지 않는 자연수인 소수, 모두가 이 소수를 의미 없는 숫자의 모임이라며 그다지 관심을 두지 않았다. 오직 오일러만이 불규칙한 소수들 사이에서 일정한 규칙을 발견하고자 잠을 줄여가며 계산에 몰입했고, 결국 그가 발견한 건 소수만으로 이뤄진 새로운 수식이었다. 소수의 곱으로 표현된 식이 원의 둘레와 지름의 비를 구하는 식과 유사하다는 사실을 알아낸 오일러 덕분에 훗날 제타함수라는 중요한 아이디어가 등장했으며, 결국 한참 후배인 카를 프리드리히 가우스의 제자 베른하르트 리만에 의해 160년 전 리만 가설로 정립됐다. 

증명은 했지만, 여백이 모자라 더는 자세한 설명은 생략했던 ‘페르마의 마지막 정리’ 역시 오일러와 깊은 관련이 있다. 피에르 페르마가 제시한 식에서 ‘모든 지수가 3 이상의 정수일 때 만족하는 항의 미지수를 만족하는 양의 정수는 존재하지 않는다’는 추측을 증명하고자 오일러는 페르마가 남겨놓은 자료들을 열심히 뒤졌다. 마침내 지수가 4인 경우에 대해 페르마가 증명해놓은 내용을 힘겹게 발견했고, 이것을 바탕으로 지수가 3인 경우까지 증명해냈다. 

아주 오래전부터 전해 내려오는 정수론의 유명한 미해결 문제 가운데 ‘골드바흐의 추측’이 있다. 2보다 큰 모든 짝수는 2개의 소수 합으로 표시할 수 있다는 것인데, 이 추측 역시 독일 수학자 크리스티안 골드바흐가 오일러에게 쓴 편지에서 시작됐다. 오일러는 골드바흐가 보내온 추측을 수학적으로 깔끔하게 다듬었으며, 270여 년이 지난 현재까지도 수많은 천재 수학자가 완벽한 증명을 위해 매달리고 있다.

죽는 순간까지 멈추지 않았던 계산

오일러의 논문 작성 속도는 심지어 인쇄 속도보다 빠르다는 말이 있었을 정도다. 인쇄되길 기다리다 지루해진 나머지 또 논문을 써내곤 했고, 인쇄업자가 본래 가져가려던 논문이 새로 쓴 논문 더미에 묻혀 찾지 못해 결국 나중에 쓴 논문이 먼저 출판되기도 했다고. 수학 역사상 가장 많은 글을 남긴 사람으로 알려져 있으며 수학 외에도 물리학, 화학, 생물학, 지구과학, 천문학, 의학, 공학, 식물학, 역사학, 문학 등 그가 다루지 않은 분야가 없었다. 

독일 음악가 베토벤은 청력을 상실한 후 교향곡 9번 ‘합창’을 완성했고, 이것은 유네스코 세계기록유산에 등재될 만큼 뛰어난 작품으로 평가된다. 그보다 한참 형님뻘인 오일러 역시 하루 20시간 이상 연구에 몰두하다 양쪽 시력을 모두 잃게 됐지만, 계산을 대부분 암산으로 처리하며 더 많은 논문을 썼다고 한다. 프랑스 철학자 니콜라 드 콩도르세 후작은 오일러 사후 그에게 바치는 추도사에서 ‘죽음이 드디어 그의 계산을 멈췄다’고 애도했다. 오일러에게 계산은 곧 삶이었고 존재 이유였다. 

미국의 유명한 논평가 앤디 루니가 이런 말을 남겼다. ‘모든 사람은 산 정상에 올라 행복하기를 원한다. 하지만 모든 행복과 성장은 당신이 산을 오르고 있을 때 발생한다.’ 죽는 순간까지 수학이라는 거대한 산을 쉴 새 없이 올랐던 오일러는 진심으로 행복했을 것이다.

_{궤도_연세대 천문우주학과 학부 및 대학원을 졸업하고 한국천문연구원 우주감시센터와 연세대 우주비행제어연구실에서 근무했다. ‘궤도’라는 예명으로 팟캐스트 ‘과장창’, 유튜브 ‘안될과학’과 ‘투머치사이언스’를 진행 중이며, 저서로는 ‘궤도의 과학 허세’가 있다.}