“캘수록 무궁한 가치 수학은 꽃보다 아름다워”

“수학은, 정말, 아름다워요.”

머리가 희끗한 세계적 석학이 두 눈을 반짝이며 이렇게 말할 때, 기자는 더불어 고개를 끄덕일 수밖에 없었다. 박형주(49) 포스텍 수학과 주임교수에게 “수학이 뭐가 그리 좋으냐”고 물은 참이었다.

아인슈타인 같은 물리학자를 꿈꾸며 서울대 물리학과에 진학했던 그는 대학 3학년 때 수학과 수업인 ‘현대 대수’를 듣다가 수학의 ‘충격적인 아름다움’에 마음을 빼앗겼다고 고백했다. 그를 사로잡은 건 19세기 천재 수학자 갈루아의 ‘군론(group theory)’이었다. 5차 이상 고등 다항식에서 거듭제곱근의 해를 구할 수 없음을 증명한 그 이론이 어찌 그리 우아하게 느껴졌는지는 문과 출신 ‘수포자(수학포기자)’ 기자는 차마 헤아리기 어렵다.

평생 열정을 다할 대상

하지만 박 교수는 “아름다움 그 자체인” 갈루아의 군론 안에서 세계가 비로소 제자리를 찾는 모습을 보았고, 평생 열정을 다할 대상을 찾았다고 했다. 이후 미국 UC버클리대학원에서 수학박사학위를 받은 그는 미국 오클랜드대와 우리나라 고등과학원을 거쳐 포스텍 강단에 서기까지, 줄곧 수학 외길을 걸었다.



최근에는 자신이 발견한 ‘수학의 매력’을 좀 더 널리 알리려는 일에도 앞장서고 있다. 2007년 대한수학회의 세계수학자대회(ICM) 유치위원장을 맡았고, 2014년 서울 개최가 확정된 뒤부터는 조직위원장으로 일하고 있다. 지난해부터 동료 학자들과 함께 대중 대상의 수학 강연회 K.A.O.S도 연다. 모든 자리에서 그가 강조하는 건 “수학은 재미있을 뿐 아니라 실용적이기도 하다”는 것. ‘수학은 지루하고 쓸모없다’는 세간의 인식에 정면으로 맞서는 주장이다. 그에게 기자를 설득해보라고 주문했다.

“수학이 연인을 찾는 데 도움이 된다면 어떨까요?”

그렇게 박 교수의 이야기가 시작됐다. 그에 따르면 좋은 짝을 만나려고 미팅에 나간다고 해도 우리는 가장 마음에 드는 파트너를 선택하지 못하는 경우가 많다. 상대방이 명백히 다른 사람을 좋아하는 것처럼 보일 때, 그의 예상되는 행동에 따라 전략을 바꾸기 때문이다. 이런 전략적 상황을 수학적으로 설명하려는 시도를 ‘게임이론’이라고 부른다. 1940년대부터 게임이론은 응용수학의 한 분야로 자리 잡았다.

현대 사회 광범위한 활용

자. 이제 본격적인 수학공부 시작이다. 먼저 매력적인 남자 A와 여자 B, 인기가 별로 없는 남자 a와 여자 b가 있다고 가정하자. 네 명이 어떤 식으로 짝을 맺어야 가장 안정적인 사회가 될까. 모든 사람이 마음에 드는 파트너와 짝을 짓는 건 불가능하다. 인기 있는 사람끼리(A·B), 없는 사람끼리(a·b) 짝을 짓게 되거나 서로 섞이는 것(A·b, a·B)이 가능한데, 전자의 경우 a와 b가 이 짝짓기 결과에 불만을 토해낼 테고, 후자라면 A와 B가 못마땅해할 것이 분명하다.

박 교수는 “이때 가장 바람직한 조합, 즉 깨질 확률이 낮은 안정적인 짝은 A·B, a·b 형태”라고 했다. A가 b와 짝이 되면 A는 좀 더 나은 B에게 관심을 두게 되고, 자신의 파트너(a)가 만족스럽지 않은 B도 A를 원하게 될 것이 분명하다. 결과적으로 두 커플 모두 깨질 확률이 높다. 반면 앞선 결론대로 하면 a와 b는 서로 불만족스러워도 다른 선택지가 없게 된다.

박 교수에 따르면 이 사례는 수학자인 로이드 섀플리 UCLA 명예교수에게 2012년 노벨 경제학상을 안긴 ‘게일-섀플리 알고리즘’의 핵심 내용을 담고 있다. 그는 “게일-섀플리 알고리즘을 활용하면 수많은 가능성 속에서 방황하지 않고 안정적인 짝을 찾을 수 있다. 이 이론은 미국 뉴욕시 공립학교 배정 등 현실 상황에서도 폭넓게 활용된다”고 했다.

2014년 한국서 수학 축제

어린이들 앞에서 수학 강연을 하고 있는 박형주 포스텍 수학과 교수.

수학이 쓰이는 곳은 이외에도 많다. 첨단 범죄수사에 필요한 지문 대조 기법과 인터넷뱅킹 등에 쓰는 암호를 만드는 데 수학이 큰 기여를 한 것은 널리 알려졌다. 컴퓨터단층촬영(CT) 같은 3차원 영상기술도 수학 암호론이나 편미분방정식이 발전하지 않았다면 쉽게 보급되지 못했을 게다. 박 교수는 입시 대비 문제풀이를 수학의 전부라고 여기는 우리 사회 풍토 때문에 이런 수학의 다양한 모습이 알려지지 못하는 것을 안타까워했다.

이진경 서울과학기술대 교수는 저서 ‘수학의 몽상’에서 “(수학은) 당연시된 모든 것에 대해 다시 의문의 화살을 쏠 수 있는 용기와 전혀 생각지 못했던 것 사이에서 어떤 연관을 찾아내는 시적 상상력까지 포함하는, 그런 만큼 종종 뿌리까지 뒤집어버리는 전복적이고 혁명적인 사유의 양상을 담고 있다”며 “수학이 제공하는 새로운 상상력의 경이로운 기쁨과 아름다움은 시적 상상력에 결코 뒤지지 않는다”고 했다. 박 교수도 이 의견에 동의한다. 그가 수학을 ‘아름답다’고 여기는 것은 명료하고 정밀하게 짜인 수의 세계 안에 무한한 상상력과 창조력을 품고 있기 때문이다.

문제는 우리나라에서 수학이 오랫동안 다른 분야에 비해 상대적으로 소홀한 대접을 받아 왔다는 점. 1960~80년대 산업화와 경제성장에 집중한 정부는 과학기술 육성에 더 큰 관심을 쏟았다. 대한수학회가 국제수학연맹에 가입한 81년 당시 우리나라 수학자가 국제저널에 게재한 논문은 세 편에 불과했다.

그러나 최근 변화가 시작됐다. 박 교수는 “1996년 고등과학원이 수학과 이론물리학 분야에서 ‘세계 최고 수준의 연구’를 지향하면서 문을 열고, 이후 세계 수학계와의 교류가 활발해지면서 우리나라 수학 수준이 눈부시게 발전하고 있다”고 밝혔다.

2008년 현재 수학 분야 SCIE(과학기술논문 인용색인 확장판)급 논문 편수에서 우리나라는 미국, 중국, 프랑스, 독일, 영국, 이탈리아, 캐나다, 일본, 스페인, 러시아에 이은 세계 11위다. 박 교수는 “한국에서 2014년 ICM이 열리게 된 건 국제수학연맹이 이런 놀라운 성장과 추가 성장 잠재력에 감탄했기 때문”이라고 했다.

1897년 스위스 취리히에서 시작한 ICM은 세계 수학자가 한자리에 모이는 수학 축제로, 4년에 한 번씩 세계를 돌며 열린다. 개막식에서 수학계 노벨상으로 부르는 필즈상 수상자를 발표해 세계 이목이 집중되기도 한다. 박 교수는 “이 행사를 통해 우리나라는 세계 수학의 중심으로 뻗어나갈 기회를 얻게 될 것”이라며 “이를 계기로 세계적 석학들의 방한 기회를 확대하고, 고등과학원과 국가수리과학연구소 등의 위상을 강화하면 머지않아 한국에서 세계 수학계를 이끄는 필즈상 수상자가 나올 것”이라고 자신했다.

“엘리트 수학의 발전은 자연스럽게 사회 전반의 수학 문화 확산을 이끌 겁니다. 더 많은 사람이 수학의 아름다움과 매력을 깨닫고, 일상에서 수학을 즐길 수 있게 되면 좋겠습니다.”

세계가 주목하는 한국인 수학자들

황준묵…김민형…오희…국내외서 명성

황준묵, 김민형, 오희, 오용근, 김정한 교수(위부터).

국제수학연맹은 5월, 2014년 8월 서울에서 열리는 27차 세계수학자대회(ICM) 기조강연자로 황준묵(50) 고등과학원 교수를 선정했다. 한국인 수학자가 세계 최대 수학학술대회에서 기조강연을 맡은 것은 이번이 처음이다. 국제수학연맹은 이외에도 강석진(52) 서울대 교수, 김병한(50) 연대 교수, 김범식(45) 고등과학원 교수, 이기암(43) 서울대 교수, 하승열(42) 서울대 교수 등을 이 대회 초청강연자로 발표했다. ICM의 기조 및 초청강연자는 국제수학연맹이 비밀위원회를 구성해 세계적 석학 중에서 선정한다. 이 여섯 명의 수학자는 2013년 현재 세계적인 수학자로서의 위상을 공식적으로 인정받은 것이라고 볼 수 있다.

이 중 가장 눈길을 끄는 인물은 황 교수다. 2006년 역시 한국인으로는 처음으로 세계수학자대회 초청강연자로 나섰던 그는 기하학 분야에서 수십 년간 풀리지 않던 여러 문제를 해결한 인물로 평가받는다. 그가 세계의 주목을 받기 시작한 것은 1999년 라자스펠트(Lazarsfeld) 예상을 증명하면서부터.

미국 수학자 라자스펠트가 1984년 발표한 이 예상은 이후 15년간 저명한 수학자 350여 명이 도전하고도 풀지 못한 기하학 분야 난제였다. 황 교수는 스스로 창안한 ‘극소유리접다양체 이론’을 통해 이를 증명한 뒤, 연이어 또 하나의 오랜 난제였던 ‘변형불변성’도 증명해냈다. 가야금 명인 황병기 이화여대 명예교수의 아들이기도 한 그는 2002년 한국과학상, 2006년 대한민국 최고과학기술인상 등을 받았고, 2010년 국가과학자가 됐다.

2011년 한국인으로는 처음으로 영국 옥스퍼드대 수학과 정교수로도 임용된 김민형(50) 포스텍 석좌교수 역시 세계가 주목하는 한국인 수학자 중 한 명이다. 정수학과 위상수학을 결합한 독창적인 방식으로 ‘페르마의 정리’를 풀어낸 논문을 발표하면서 화제를 모은 그는 미국 MIT와 퍼듀대, 영국 런던대 등을 거쳐 포스텍과 옥스퍼드대에 자리 잡았다.

최근 미국 예일대 역사상 최초의 수학과 여성 종신교수로 임용된 오희(45) 교수, 2007년 미국 MIT 종신교수가 된 김주리(44) 교수, 2006년 황 교수와 함께 ICM 강연자로 초청받은 오용근(52) 위스콘신대 교수와 김정한(51) 연대 교수, 2010년 ICM에서 강연한 박종일(50) 서울대 교수 등도 세계적으로 널리 알려진 한국인 수학자다.

1999년 296건에 불과하던 국내 수학자의 SCIE(과학기술논문 인용색인 확장판)급 논문이 2008년 864편으로 급증한 데서 알 수 있듯, 최근 한국 수학계는 양적·질적인 면에서 가파르게 성장 중이다. 지난해 8월 아르헨티나에서 열린 제53회 국제수학올림피아드(IMO)에서 고교생 6명으로 구성된 한국 대표단이 종합 1위에 오르면서 젊은 수학 영재에 대한 기대도 높아지고 있다. 이들은 전원 금메달도 받았다. 우리나라는 88년부터 이 대회에 참석했으나 종합 1위에 오른 건 작년이 처음이었다.

최근 국제 수학계에서는 올림피아드 메달 수상자 출신 수학자의 부상이 두드러진다. 2010년 필즈상 수상자 4명 중 3명이 메달리스트였을 정도. 우리나라에서는 2009년 만 26세 4개월의 나이에 KAIST(한국과학기술원) 교수가 돼 화제를 모은 최서현(30) 교수가 2회 연속 금메달을 받은 것으로 유명하다. 대한수학회는 1995년 이후 거의 매년 배출되는 우리나라의 IMO 금메달 수상자 가운데 약 60%가 수학과에 진학해 수학자의 길을 걷는 것으로 분석한다. 이들을 비롯한 젊은 수학자의 활약에 국내외 수학계의 관심이 쏠린다.