수학 역사상 가장 신비로운 인물을 꼽자면 피타고라스를 빼놓을 수 없다. 근육질의 스파르타 전사들이 뛰어다니던 기원전 6세기 인물로, 자연에 숨겨진 비밀을 찾아 헤매는 사람이라는 의미에서 ‘철학자’라는 용어를 처음 만들기도 했다. 현존하는 가장 오래된 점토판에 적힌 것도 피타고라스가 발견한 숫자들이다 보니 ‘수 이론의 창시자’로도 불린다. 그는 평범한 인간이 지닌 지각능력을 넘어 초월적 진리를 발견하고자 했고, 그러한 과정에서 수의 의미를 찾아냈다.

아쉽게도 그가 직접 쓴 책은 현재 한 권도 남아 있지 않다. 그가 남긴 수많은 업적과 증명법들이 피타고라스 고유의 것인지, 아니면 그의 제자들과 함께 만든 것인지 명확하지 않다. 심지어 그 유명한 ‘피타고라스의 정리’에 대한 증명조차 그가 직접 남긴 내용이 아닌, 그리스 수학자 유클리드의 증명법에서 유래했을 정도다. 그의 행적들은 워낙 전설처럼 전해 내려와 진실과 거짓을 구분하는 것조차 힘들다.

피타고라스는 고대 이집트와 바빌로니아에서 수집한 자료들을 통해 체계적인 수학적 구조를 도출했다. 추상적 개념으로만 존재하던 수학을 실제 현실과 연결하는 데 성공한 것. 세상을 논리적으로 설명하는 데 수학을 활용할 수 있다는 근본적인 사고방식을 확립한 것이다. 그는 더 많은 진리에 다가가고자 비밀스러운 공동체인 피타고라스학파를 창설했다.

피타고라스학파의 규율은 마치 종교처럼 매우 엄격했다. 평소 채식주의자이자 콩을 절대로 먹지 않던 피타고라스를 따라 학파 사람들 모두 콩이나 고기를 먹지 않았을 정도다. 당시 누구도 감히 도전할 수 없는 권위를 가졌던 피타고라스는 눈에 보이지는 않지만, 모든 만물의 근원이자 균형과 조화를 이루는 그 무언가를 ‘숫자’라고 외쳤다. 그래서 짝수와 홀수를 나눠 성별이나 특성을 부여했고, 마치 선과 악을 나누듯이 숫자로 정의에 대한 가치를 판단하기도 했다.

 특히 자연수, 그중에서도 완전성을 갖는 수에 가장 관심이 많았는데, 어떤 수의 약수들을 모두 더했을 때 정확하게 본래의 수가 되는 수를 ‘완전수’라고 불렀다. 약수란 어떤 수를 나누어떨어지게 하는 수를 의미하는 것으로 6이나 28이 여기에 속한다. 피타고라스의 정리를 만족하는 3, 4, 5 같은 자연수도 피타고라스의 수라고 부르며 칭송했다.



하지만 여기에는 큰 문제가 있었다. 직각 이등변삼각형의 빗변은 자연수로 표현할 수 없었다. 유리수가 아닌 무리수였기 때문이다. 이러한 발견은 피타고라스에게 머리를 망치로 얻어맞은 것 같은 강력한 충격을 선사했다. 그에겐 오직 자연수만이 신이 인간에게 선사한 가장 완벽한 형태이고, 이것으로 설명할 수 없는 타락한 존재는 세상에 존재해선 안 된다는 신념이 있었기 때문이다.

무리수가 차라리 수가 아니길 바랐던 피타고라스는 어떻게든 무리수를 자연수의 분수 형태로 표현하려 애썼고, 마지막 순간까지 무리수를 부정했다. 그는 숫자라는 개념을 이해하며 관계의 비밀을 캐낼수록 세상에 숨겨진 진리를 발견하고 신에게 접근할 수 있다고 믿었다. 학파 제자들은 피타고라스를 태양의 신 아폴로의 아들이라며 추앙했다. 하지만 무리수의 등장은 오직 자연수만 숭배하던 태양의 신 자손들에게 현실에서 이교도의 신이 강림한 것과 유사한, 어쩌면 그 이상의 공포를 선사했다. 그리고 이렇게 숭배에 가까울 정도로 어긋난 신념은 마침내 피타고라스와 그의 추종자들을 정신적 공황상태에 빠지게 만들었다. 같은 하늘 아래 두 개의 태양은 있을 수 없었다. 무리수의 등장 자체마저도 부정해야 했다. 당시 전설적인 수학자에겐 다른 선택의 여지가 있었을까.

무리수의 존재를 은폐하려 한 피타고라스

어쩌면 피타고라스학파가 주름 잡던 시기는 수학의 황금기였다. 제자 수백 명이 모여 피타고라스의 가르침을 들었고, 그들은 발전적 견해를 제시하며 수학을 함께 논했다. 마치 비정상적 집단처럼 피타고라스학파에 들어올 때는 전 재산을 모두 학회에 기부해야 했지만, 오히려 탈퇴할 때는 본래 기부한 재산의 2배 이상을 받아 나갈 수 있었기 때문에 명예로운 활동이었다. 피타고라스의 정리가 세상에 나왔을 때는 너무 행복한 나머지 황소 100마리를 신에게 바쳤다는 이야기까지 남아 있다. 하지만 학파에 소속된 사람이 아니라면 그의 가르침에 대해 전혀 알 수 없었다. 오직 학파 구성원들만 새롭게 발견된 수학적 증명을 접할 수 있었고, 절대 외부로 발설하지 않겠다는 비밀 서약까지 했다.

이건 일종의 학파 내 윤리체계였는데, 심지어 피타고라스가 죽은 후에도 비밀 서약만큼은 철저히 지켜졌다. 만약 이를 위반하고 널리 알려지지 않은 수학적 사실을 공공장소에서 함부로 발설한 사람은 비극적인 최후를 맞이했다고 한다. 이러한 이유로 피타고라스학파가 힘겹게 도달한 업적들이 온전히 후대에 전수되지 못한 측면도 있다.

그중 무리수의 존재는 무엇보다 중요한 사안이었다. 감추기도 쉽지 않았다. 특히 전설적인 수학자 피타고라스의 정리에도 이상한 점이 있었다. 처음 문제를 제기한 건 피타고라스조차 인정할 정도로 똑똑한 제자 히파소스였다. 피타고라스가 내놓은 직각 삼각형은 문제가 없었지만, 만약 두 변의 길이가 1로 동일한 직각 이등변삼각형이라면 빗변 길이에 맞는 자연수가 없었다. 히파소스는 똑같은 2개의 숫자를 곱했을 때 2에 가장 가까운 수를 찾기 위해 밤을 새우며 노력했지만, 그의 계산은 끝없이 이어질 뿐이었다. 마침내 그는 하나의 결론에 도달했다. 자연수만으로는 절대 표현할 수 없는 숫자가 있구나. 바로 무리수였다.

피타고라스는 다시는 무리수와 관련된 이야기가 외부로 새어나가지 않도록 엄중한 규율로 은폐를 시도했다. 하지만 히파소스는 이렇게 중요한 사실을 대중에게 알리지 못한다면 그것이야말로 큰 문제라고 생각했다. 어쩌면 피타고라스학파의 세계관이 불합리하다는 새로운 관점을 제시할 수 있을지도 모를 일이었다. 그는 용기 있게 사람들 앞에 나섰으나, 그의 경솔함에 분노한 피타고라스와 학파 동료들에 의해 결국 안타까운 결말을 맞이할 수밖에 없었다. 히파소스가 학파에서 쫓겨났다거나 죽음을 가장하고 멀리 추방당했다는 이야기는 미담에 가깝다. 피타고라스가 직접 그의 사형을 집행했다거나 학파 구성원들이 그가 탄 배를 침몰시켰다는 소문이 있고, 학파를 맹신하는 신도에 의해 암살당했다는 말도 떠돈다. 히파소스는 인류 역사상 수학으로 인해 살해된 첫 번째 희생자였을지도 모른다.

현재까지 사용되는 위대한 발견

우리가 지금 현실에서 사용하는 수는 대부분 실수이며, 정수의 비로 깔끔하게 떨어지는 유리수에 비해 분수로 나타낼 수 없는 무리수는 훨씬 많다. 세상에 존재하는 가장 중요한 상수 두 가지는 자연 상수 ‘e’와 원주율 ‘π’라고 볼 수 있는데, 둘 다 소수점 이하 숫자가 불규칙하게 반복되는 무리수다. 아무리 무리수는 수가 아니라고 주장하고 싶어도 수많은 수학적 성과의 중심에는 항상 무리수가 있다. 일상생활에서조차 무리수를 발견하는 것이 어렵지 않다. 렌즈 교환식 카메라에도 무리수가 숨어 있다.

인물 사진을 기막히게 찍으려면 피사체와의 거리에 따라 특화된 렌즈로 교체하는 단일 초점거리 렌즈가 주로 필요하다. 이때 가장 중요한 고려 사항은 렌즈 밝기다. 일단 빛을 많이 받아서 사진이 밝게 찍혀야 화사하게 나오기 때문이다. 여기서 가장 중요한 역할을 하는 건 우리 눈의 동공과 유사한 조리개다. 들어오는 빛의 양은 조리개를 통해 조절되는데 보통 f/1, f/1.4, f/2, f/2.8, f/4, f/5.6, f/8, f/11, f/16 등과 같은 식으로 표기한다. 이렇게 복잡한 수치로 빛의 양을 조절해야만 하는 이유는 무리수 때문이다. 피사체로부터 들어오는 빛의 양은 동그란 카메라의 구경에서 결정되는데, 구경 반지름으로부터 계산되는 원의 넓이를 일정한 비율로 줄어들게 만들기 위해서는 무리수로 계산하는 수밖에 없다. 무리수의 등비수열로 나온 결과의 근삿값을 이용한다.

음악에서 음 사이 비율을 유리수로 간단하게 설정한 음률을 순정률이라고 하는데, 실제로 각 음들은 같은 간격이 아니라서 무리수의 배로 조정한 평균율을 쓴다. 자주 사용하는 A4 용지도 접거나 합쳤을 때 종이 비율이 계속 유지되면서 크기가 바뀔 수 있도록 무리수를 활용해 만들어진다. 직각 이등변삼각형의 빗변을 정밀하게 측정하는 것도 꽤 여러 곳에 사용된다. 보도블록이나 타일을 깔 때도 무리수가 없으면 엉망진창이 될 것이다.

실제로 피타고라스가 살인을 저질렀는지는 확실히 알 수 없다. 너무 오래전이라 목격자는 물론, 판례가 적힌 문건조차 찾아볼 수 없다. 확실한 건 전설적인 수학자조차 현상을 있는 그대로 바라보지 못하고 신념이 앞서는 실수를 저질렀다는 점이다. 과학적 사고는 합리적 의심에 있다. 만약 히파소스가 추론에 의한 변절이 아닌 신념을 택했다면, 우리는 여전히 무리수가 없는 세상에서 복잡한 계산에 자연수를 억지로 끼워 맞추고 있을지도 모른다. 물리학과 화학 분야에서 노벨상을 무려 두 번이나 받은 과학자 마리 퀴리는 이런 말을 남겼다. “두려워해야 할 것은 아무것도 없다. 다만 이해해야 하는 것이 있을 뿐이다.” 올바른 과정을 거쳐 자연스럽게 생소한 무언가가 나타났다면 두려워할 필요는 없다. 언제든 이해를 통해 우리는 다음 단계로 나아갈 수 있다. 어쩌면 신념보다 중요한 진리다.

_{궤도는… 연세대 천문우주학과 학부 및 대학원을 졸업하고 한국천문연구원 우주감시센터와 연세대 우주비행제어연구실에서 근무했다. ‘궤도’라는 예명으로 팟캐스트 ‘과장창’, 유튜브 ‘안될과학’과 ‘투머치사이언스’를 진행 중이며, 저서로는 ‘궤도의 과학 허세’가 있다.}