‘생각하는 기계’ 가능성 보여준 비운의 수학자 앨런 튜링

[GETTYIMAGES]

지난해 3월 영국 중앙은행인 잉글랜드은행은 6월부터 유통되는 새로운 50파운드 지폐를 공개했다. 현재 해당 지폐에는 증기기관을 통해 산업혁명을 이끈 영국 발명가이자 공학자 제임스 와트가 자리 잡고 있다. 영국 최초 여성 총리인 마거릿 대처나 이론물리학자 스티븐 호킹 등 1000여 명의 쟁쟁한 후보를 제치고 50파운드 지폐 새 얼굴로 선정된 이는 바로 천재 수학자 앨런 튜링(1912~1954)이다.

지폐 뒷면에는 그의 초상화 외에도 컴퓨터 과학의 아버지를 기리기 위한 여러 요소가 보인다. 우선 중앙엔 튜링이 고안한 튜링 머신의 기호들이 행렬 형태로 적혀 있다. 또 그의 생일은 컴퓨터에서 사용하는 2진법 숫자(0과 1) 25개가 물결 모양으로 표현됐다. 지폐 위조를 방지하는 홀로그램은 컴퓨터의 핵심 요소인 전자회로 모양을 본떠 희소성을 높였다. 튜링의 업적이 얼마나 대단하기에 이렇게 우대하는 것일까.

어린 시절부터 튜링은 천재적 사고를 지닌 아이였다. 친구들과 뛰어노는 것보다 가만히 앉아 책을 읽는 것을 좋아했고, 미적분을 스스로 깨우쳤다. 16세 무렵에는 성인도 제대로 이해하기 힘든 아인슈타인의 논문을 혼자 읽으며 자신만의 방식으로 개선할 부분까지 찾아냈다. 케임브리지대 재학 중에는 컴퓨터 실현 가능성을 보여준, 계산하는 기계 ‘튜링 머신’을 제안했다. 물론 실제로 기계를 만든 것은 아니고, 개념을 설명하기 위한 가상의 기계였다. 튜링 머신은 테이프(tape)와 헤드(head), 상태 기록기(state register), 그리고 행동을 지시하는 행동 표(action table)로 구성됐는데, 이것들이 실제로 작동한다면 자동으로 계산도 할 수 있다. 먼저 일정 크기의 단위로 구분된 테이프 위에는 특정한 기호들이 기록돼 있다. 테이프는 이론적으로 무한하게 늘어날 수 있으며, 고정된 헤드를 통해 테이프가 이동하며 적혀 있는 기호를 읽는다. 상태 기록기는 현재 튜링 머신이 작업을 수행 중인지 상태를 기록하며, 행동 표는 정해진 상태에서 읽어낸 기호에 따라 해야 할 행동을 지시한다. 얼핏 보면 굉장히 복잡한 것 같지만, 쉽게 생각하면 그저 정해진 규칙과 순서에 따라 행동 표에 적힌 내용대로 움직이는 기계다. 튜링은 이 기계를 통해 수학적 증명이라는 과정과 인간의 사고 과정이 유사하다는 것을 밝혀냈다. 이후 해당 기계는 튜링이 프린스턴대 박사 과정 중에 만난 수학자 존 폰 노이만에 의해 개선돼 지금의 컴퓨터로 탄생했다.

튜링은 체스 게임에도 관심이 많았다. 초기 컴퓨터가 등장하기 전부터 이미 초보적인 수준의 인공지능 프로그램을 만들었다. 당연히 프로그램을 돌릴 수 있는 제대로 된 컴퓨터가 없었기에 실행은 어려웠다. 그 대신 튜링은 본인이 체스를 두는 과정에서 프로그램의 핵심이 되는 알고리즘을 따라 다음 수를 계산하며 대국을 진행했다. 한 수를 두는 데만 30분이나 걸리면서도 대결에서 패배하기도 했다. 이후 IBM의 체스 인공지능 딥 블루가 세계 체스 챔피언에 승리한 사례를 보면 놀라울 따름이다.

천재 수학자 앨런 튜링의 얼굴이 새겨진 영국 50파운드 지폐. [GETTYIMAGES]

제2차 세계대전을 승리로 이끈 수학적 접근법

튜링은 괴짜 같은 행동을 자주 하는 특이한 성격에 말도 잘하고 유머 감각이 뛰어나 동료들과 관계도 좋았다. 특히 애국심이 넘친 그는 1939년 제2차 세계대전이 발발하자 개인 이익을 뒤로한 채 영국으로 돌아왔다. 튜링은 영국 정보통신본부에서 독일군 암호를 해독하는 일에 힘썼다. 지금과 마찬가지로, 당시 전쟁의 승패는 정보 획득에 달려 있었다. 이미 제1차 세계대전에서 독일군은 주요 정보를 주고받는 과정에 다양한 암호화 방법을 사용했다. 하지만 윈스턴 처칠 전 영국 총리가 쓴 제1차 세계대전 회고록을 통해 독일 정부는 자신들의 암호가 전쟁 중에 해독됐다는 사실을 인지하고 큰 충격에 휩싸였다. 어떻게 해야 완벽한 통신 보안을 이뤄낼 수 있을지 고민하기 시작했다.



당시 아르투어 셰르비우스라는 공학자가 회전판을 적용해 에니그마(enigma)라는 암호 장치를 발명했는데, 독일 정부는 상업용에 복잡한 기능을 추가한 군사용 에니그마를 적극적으로 도입했다. 타자기처럼 생긴 에니그마의 기본 원리는 한 글자를 입력할 때마다 연결된 여러 개의 회전판이 돌면서 전혀 무관한 암호문을 만들어내는 것이다. 정보를 보내는 사람과 받는 사람이 회전판의 시작 위치나 배치 순서, 전선 연결 방법 등 일종의 암호 열쇠를 서로 알고 똑같이 맞추면 의미 있는 문장이 나타난다. 반대로 에니그마의 원리를 알고 있는 상태라도 암호 열쇠를 모른다면 암호문을 해독하는 건 불가능하다는 뜻이다.

독일과 영토 문제로 미묘한 신경전을 벌이던 폴란드는 독일이 보유한 에니그마를 해독하기 위해 수학자들을 불러 에니그마 해독에 성공했고, 암호문만 있으면 몇 시간 안에 암호 열쇠를 찾는 방법을 알아냈다. 하지만 폴란드를 침공하기 몇 개월 전 독일은 이전 암호체계의 결함을 보완해 에니그마를 계량하기 시작했다. 배전반 전선의 개수와 회전판을 늘려서 암호 열쇠가 될 수 있는 경우의 수를 무지막지하게 키워버린 것이다. 암호문이 있어도 해독에 걸리는 물리적 시간이 엄청나게 길어질 수밖에 없게 되자 암호 해독은 새로운 국면에 접어들었다. 이제 천재 수학자인 튜링의 진정한 가치가 발현될 순간이 찾아왔다.

제2차 세계대전의 시작과 동시에 영국은 전쟁 중 암호 해독을 담당하는 기관을 설립했다. 하지만 독일군의 새로운 에니그마는 절대 만만하지 않았다. 암호 해독에 걸리는 시간이 늘어난 상황에서 암호 열쇠는 24시간마다 변경됐고, 하루 만에 해독하지 못하면 다시 모든 과정을 처음부터 시작해야 했다. 튜링은 암호 열쇠에 의존하지 않고 에니그마를 해독할 방법이 없을지 계속 고민했다. 결국 암호문 자체의 특정한 관련성을 찾아내고, 이를 통해 암호문을 해독할 수 있는 기계 장치를 설계했다. 그것은 일종의 거대한 초기 계산기였다.

초반에는 작동 속도가 예상보다 느려서 해독을 위한 준비 기간만 일주일이 걸렸지만, 이후 개선된 기계 장치로는 한 시간 이내에 에니그마로 만들어진 암호문을 해독할 수 있었다. 결국 튜링은 24시간마다 바뀌는 해독 불가능한 암호를 풀어내 조국을 지켜냈고, 1400만 명의 목숨을 구했다. 전쟁과 전혀 관련 없어 보이는 한 수학자의 피나는 노력이 연합군에게 소중한 승리를 선사한 것이다. 종전 후에도 여러 상황을 고려해 한동안 에니그마를 해독했다는 사실은 완벽히 기밀로 유지됐다. 하지만 튜링의 업적이 세상에 알려진 후 그가 만들어낸 암호 해독 시스템은 현대 컴퓨터 과학의 시초로 자리 잡았다.

현대 컴퓨터 과학의 시초로 자리 잡은 암호 해독 시스템을 만들어낸 앨런 튜링. [사진 제공 · 영국 로열 소사이어티]

컴퓨터는 알고리즘으로 구현된 ‘튜링 머신’

세계 최대 규모 주간지이자 가장 영향력 있는 잡지로 꼽히는 미국 ‘타임’이 1999년 ‘20세기 가장 영향력 있는 100인’을 선정했는데, 여기에 튜링이 뽑혔다. 2012년에는 권위 있는 학술지 ‘네이처’에 튜링의 탄생 100주년을 기념해 그가 살아온 생애와 업적들을 모은 특집 기사가 실렸다. 2014년에는 튜링이 독일군 암호인 에니그마를 해독하는 과정이 ‘이미테이션 게임’이라는 영화로 제작, 개봉됐다. 영화 제목은 그가 1950년에 쓴 논문에 등장하는 용어로, 인공지능 개념을 설명하기 위해 도입한 ‘튜링 테스트’와 비슷한 의미다. 기계가 과연 생각할 수 있는지를 확인하기 위한 일종의 인공지능 판별 테스트인데, 생각한다는 기준을 수학적으로 정의한 최초 사례라고 볼 수 있다.

20세기 초 가장 위대한 수학자 중 한 명으로 손꼽히는 독일 수학자 다비트 힐베르트는 ‘결정 가능성 문제(decision problem)’라는 질문을 세상에 던졌다. 쉽게 말해, 어떤 명제에 대해 참인지 거짓인지를 판별하는 방법이 존재하는지를 묻는 것이었다. 그는 아직 인류가 완벽하게 발견하지 못했을 뿐이지 당연히 그런 방법이 있을 것이라는 기대를 하고 있었다. 하지만 튜링은 모두의 예상을 뒤엎고 그러한 판별법은 어디에도 존재하지 않는다는 점을 증명했다. 그 과정에서 도입한 것이 바로 앞에서부터 계속 이야기하고 있는 튜링 머신이다. 명제에 대한 판별법을 알고리즘으로 분명히 정의하고, 만약 알고리즘으로 표현이 가능한 문제라면 튜링 머신으로 구현할 수 있다는 것을 보여줬다. 지금 우리가 사용하는 컴퓨터 역시 알고리즘으로 구현된 복잡한 튜링 머신이라고 볼 수 있으며, 인간의 사고 영역을 벗어나지 않는다면 기계 역시 비슷하게 수행할 수 있다. 심지어 더 많은 회로와 전력을 사용해 훨씬 복잡한 계산을 인류 중 누구보다 빠르게 해낸다. 이제 컴퓨터는 우리 삶에서 떼려야 뗄 수 없는 존재가 됐다. 단순히 책상에 자리 잡은 컴퓨터로만 제한하지 않더라도 생각하는 기계가 포함되지 않은 전자기기를 찾기도 굉장히 어렵다.

재능 있는 수학자가 이룬 위대한 업적들

앨런 튜링은 제2차 세계대전이 발발하자 영국 정보통신본부에서 독일군 암호를 해독하는 데 힘썼다. [GETTYIMAGES]

튜링의 삶은 아주 짧았다. 그는 짧은 생애 동안 여러 업적을 남겼는데, 겉으로는 불규칙하게 보이는 생명 현상을 수학적으로 설명하는 과정에도 관심이 많았다. 현대에는 이러한 분야를 수리 생물학이라고 부른다. 그는 표범의 점무늬나 얼룩말의 줄무늬를 관찰하면서 동물마다 다른 무늬가 있는 원인에 호기심을 느꼈고, 무늬를 만드는 성분과 억제하는 성분의 상호작용을 간단한 방정식으로 정리했다. 생물학적 진화의 메커니즘을 자신만의 수학적 방식으로 기술하려는 시도를 한 것이다. 이처럼 창의적이고 재능이 뛰어난 수학자였지만, 자신이 갖고 있던 성적 지향에 대한 세상의 억압은 감당하지 못했다.

당시 흉악한 범죄와 유사한 취급을 받던 동성애 혐의로 튜링은 체포됐고, 화학적 거세라는 치욕을 받고 2년 후 세상을 떠났다. 고작 42세 젊은 나이로 자살했다고 알려졌으나 이러한 사실 역시 명확한 근거가 있는 건 아니다. 영국 정부는 튜링에 대한 처우가 잘못된 결정이었다는 점을 인정했고, 그의 죽음 이후 59년 만에 동성애 죄를 사면했다. 이제 컴퓨터 과학의 노벨상으로 불리는 튜링 상(Turing Award)이 제정될 정도로 그의 업적은 인정받고 있으며, 수많은 건축물과 기업에 튜링의 흔적이 남게 됐다. “우리는 오직 아주 가까운 곳까지만 볼 수 있지만, 그 안에서도 우리가 해야 할 일을 충분히 많이 찾을 수 있다”고 말한 튜링은 아주 짧은 삶 동안 보이는 모든 곳에서 스스로 할 수 있는 일을 전부 해낸 수학자가 아닌가 싶다. 그의 정신은 영원히 이어질 것이다.

_{궤도는…
연세대 천문우주학과 학부 및 대학원을 졸업하고 한국천문연구원 우주감시센터와 연세대 우주비행제어연구실에서 근무했다. ‘궤도’라는 예명으로 팟캐스트 ‘과장창’, 유튜브 ‘안될과학’과 ‘투머치사이언스’를 진행 중이며, 저서로는 ‘궤도의 과학 허세’가 있다.}