‘연예인들의 연예인’이라는 말이 있다. 연예인이 보기에도 눈조차 맞추지 못할 정도로 압도적인 매력을 지닌 톱스타를 일컫는 말인데, 얼마나 어마어마한지 그 정도를 가늠하기 어려울 따름이다. 과학계에도 비슷한 일이 있다. 

1963년 ‘원자핵과 기본 입자에 관한 이론과 기본 대칭 입자의 발견’에 대한 공로로 노벨물리학상을 받은 물리학자이자 수학자인 유진 위그너에게 누군가가 질문했다. “당시 헝가리에서는 어떻게 그렇게 많은 천재가 배출될 수 있었나요?” 위그너는 의아해하면서 짧게 대답했다. “그럴 리가요. 천재는 오직 한 사람뿐입니다.” 바로 오늘의 주인공 폰 노이만이다.

전화번호부를 외우던 소년

헝가리 수도 부다페스트에서 태어난 노이만은 7세 때 8자리 숫자를 암산으로 계산했고, 8세에는 이미 미적분을 이해했다. 특히 기억력과 관련해서는 유명한 일화가 많은데, 한 번 읽은 책은 수십 년이 지나도 글자 하나 틀리지 않고 그대로 외울 수 있었다. 노이만의 부모는 집에 손님이 오면 아들이 전화번호부를 외우는 모습을 재미로 보여주곤 했을 정도다. 

어느 날 그의 동료인 허먼 골드스타인은 노이만의 기억력이 얼마나 뛰어난지 궁금한 나머지 한 가지 부탁을 했는데, 바로 노이만이 어릴 적 읽었던 찰스 디킨스의 역사소설 ‘두 도시 이야기’를 암송하는 것이었다. 부탁의 말이 끝나기 무섭게 노이만은 빠르게 머릿속에 있는 글을 읽어나가기 시작했고, 골드스타인이 혀를 내두르며 그만하라고 할 때까지 한참을 정확하게 외웠다. 노이만의 재능을 접한 수학자가 감동한 나머지 눈물을 흘렸다는 일화도 전해질 정도다. 

20세가 된 노이만은 자신의 천재성을 적극적으로 발휘해, 순서를 나타내는 수인 서수의 현대적 정의에 대한 논문을 썼다. 그로부터 3년 후 부다페스트대에서 수학 전공, 물리학과 화학 부전공으로 학위를 받았고, 동시에 스위스 취리히연방공과대에서 화학공학 학위도 받았다. 이후 독일 베를린대에서 강의하며 거의 매달 한 편 꼴로 과학계에 중대한 영향을 끼칠 만한 논문을 발표했으며, 1930년 미국으로 망명한 뒤에는 프린스턴대를 거쳐 아인슈타인과 함께 프린스턴 고등연구소 교수가 됐다. 노이만의 업적은 양자역학, 통계학, 경제학, 컴퓨터공학, 위상수학, 함수해석학, 집합이론 등 너무 많아 전부 나열할 수조차 없지만, 가장 널리 알려진 것만 몇 가지 고르자면 다음과 같다.

원자폭탄에서부터 게임이론까지

제2차 세계대전 당시 미국과 영국, 캐나다는 함께 매우 은밀한 프로젝트를 시작했다. ‘맨해튼 계획’, 즉 세계 최초로 핵무기를 개발하는 연구였다. 오펜하이머, 닐스 보어, 한스 베테, 엔리코 페르미, 리처드 파인만 등 20세기 물리학계의 어벤저스가 참여한 만큼, 당대 최고 두뇌였던 노이만도 빠질 수 없었다. 노이만은 여기서 플루토늄을 이용한 원자폭탄의 원천 기술인 고폭발성 렌즈(볼록렌즈가 빛을 모아주듯 핵물질을 한곳에 집중시키는 장치)를 만들었고, 맨해튼 계획에 결정적인 도움을 줬다. 

그는 응용수학에도 깊은 관심을 보였다. ‘과연 개인이 각자의 자리에서 최선을 다한다면 모두에게 최상의 결과가 나올까.’ 이는 바로 2명 이상이 전략을 갖고 각자 최고의 보상을 얻기 위해 벌이는 행위에 대한 이론인 게임이론이다. 노이만은 처음부터 모든 이득의 합계가 0으로 제한돼 있다고 생각했다. 그래서 이득을 얻기 위해 두 사람이 대립하고 있다면, 결국 내가 이익을 얻는 만큼 상대방은 손해를 보기 때문에 이익 간 비율이 가장 중요하다는 것이다. 그는 여기서 각자의 손실을 최소화하는 방법을 제시했다. 이후 게임이론을 연구하는 과정에서 노벨경제학상 수상자가 여러 명 배출됐으며, 지금까지도 매우 중요하게 활용되고 있다. 

컴퓨터가 없는 삶을 하루라도 상상할 수 있을까. 그만큼 중요한 현대 컴퓨터의 근간이 바로 ‘폰 노이만 구조’다. 중앙처리장치나 기억장치의 구조를 의미하는 이것은 오늘날 컴퓨터 하드웨어가 됐다. 컴퓨터 과학의 아버지 앨런 튜링이 고안한 튜링기계를 구조적으로 완성한 것이다. 노이만은 맨해튼 계획에 참여할 당시 ‘전자계산기의 이론 설계 서론’이라는 논문을 발표했는데, 여기에는 초기 컴퓨터의 치명적인 문제를 해결할 방법이 담겨 있었다. 

당시 프로그래밍이 가능한 컴퓨터 에니악이 있었지만, 지금처럼 명령어를 집어넣는 형태는 아니었다. 소프트웨어라는 개념이 없는 하드웨어 기반의 프로그래밍이었기 때문이다. 덧셈을 하다 뺄셈을 하기 위해서는 컴퓨터 배선을 뽑아 다시 끼워야 했다. 다행히 노이만은 하드웨어를 재배치할 필요 없이 중앙처리장치 곁에 기억장치를 붙여 프로그램과 자료를 저장해두고, 실행 명령에 따라 순차적으로 작업을 불러와 처리할 수 있게 만들었다. 1945년 그가 처음 확립한 컴퓨터의 핵심적인 기본 구조는 지금까지도 일반 컴퓨터에 활용되고 있다.

75년간 활용된 컴퓨터 구조의 창시자

노이만이 이를 구상할 때 참고했던 게 인간의 사고력이다. 인간은 생각할 때 뇌에 저장된 정보를 불러와 활용하고 다시 결과를 기록한다. 하지만 이러한 방식은 치명적인 단점이 있다. 중앙처리장치가 아무리 빨리 데이터를 처리하더라도 기억장치의 속도가 느리거나 데이터가 너무 많으면 전체적인 성능 저하가 일어난다. 밥을 빨리 많이 먹는 대식가라 해도 요리사가 음식을 천천히 제공한다면 결국 식사시간이 점점 길어질 수밖에 없다. 노이만은 이런 약점을 해결하고자 계속 고민했지만 1957년 54세 나이로 숨을 거두는 바람에 해답을 찾지 못했다. 맨해튼 계획에 참여했을 당시 방사선 과다 노출에 의한 췌장암이 원인이 된 안타까운 죽음이었다. 

최근 인공지능 알고리즘이 급속하게 발전하는 가운데 처리가 필요한 데이터양이 기하급수적으로 증가하고 있다. 자율주행자동차만 봐도 1시간 동안 4TB(테라바이트)의 어마어마한 데이터를 만들어낸다. 시간당 100만 개의 음악 파일을 만드는 수준이다. 이런 기억장치의 병목현상을 해결하지 못한다면 인간만큼 빠른 속도로 사고하는 인공지능의 개발은 ‘기대난망’일 수밖에 없다. 다행히 75년간 자리를 지킨 폰 노이만 구조를 대신할 차세대 구조가 여럿 등장했다. 기억장치 내에서 연산을 수행하는 새로운 방식으로 데이터 이동을 최소화하고, 병렬로 연산하며, 전력 효율성도 높일 수 있다. 

‘거인의 어깨에 올라섰기에 더 넓은 세상을 바라볼 수 있었다’는 아이작 뉴턴의 겸손한 문구조차도 사실 1130년 프랑스 철학자 베르나르 드 사르트르의 글에서 시작됐다. 모든 것을 도움 없이 자기 힘만으로 이뤄낸 사람은 없다. 이제 인류는 폰 노이만이라는 거인, 그리고 그 뒤를 이은 수많은 과학자의 어깨에 올라 전혀 새로운 세상을 바라볼 준비를 해야 한다. 언젠가 후대를 위해 어깨를 내줄 때를 준비하면서.

_{궤도_연세대 천문우주학과 학부 및 대학원을 졸업하고 한국천문연구원 우주감시센터와 연세대 우주비행제어연구실에서 근무했다. ‘궤도’라는 예명으로 팟캐스트 ‘과장창’, 유튜브 ‘안될과학’과 ‘투머치사이언스’를 진행 중이며, 저서로는 ‘궤도의 과학 허세’가 있다.}