예나 지금이나 모호한 질문에 속 시원히 답해주는 방송이 인기다. 과거엔 점집 도사처럼 분장한 진행자가 유명 인사의 고민을 해결해주던 ‘황금어장 무릎팍도사’가 있었고, 최근엔 ‘무엇이든 물어보살’이라는 상담 프로그램이 뒤를 잇고 있다. 정답이 없는 세상에서 누군가 명확한 해답을 내려줄 수 있다면 얼마나 좋을까.

그나마 방송에 나오는 질문은 상황이 나은 편이다. 현실은 더욱 모호하다. 고민이 아닌 일상의 대화조차 그렇다. “오늘은 어제보다 조금 따뜻하네” “양파 서너 개만 사 와” 같은 말을 보자. 그래서 기온이 몇 도가 오른 걸까. 양파는 몇 개를 사야 할까. 정보 자체가 불분명하다. 세상에는 이렇게 의미가 명확히 전달되지 않는 것이 많다. 이걸 제대로 표현할 수 있는 방법은 없을까.

모두가 사랑하는 과학은 인류가 쌓아온 경험을 기반으로 새로운 원리를 밝히는 과정이다. 따라서 언제나 논리적이고 명확해야 하기에, 수학이라는 매우 엄밀한 도구를 사용한다. 수학에 자비란 없다. 하지만 무조건 수학의 엄격한 잣대만 들이댈 수는 없다. 현실은 그다지 명확하지 않기 때문이다. 누구든 한 반에 안경을 쓴 친구가 몇 명인지 쉽게 셀 수 있다. 그렇다면 키 큰 친구는 과연 몇 명일까. 아마 세는 사람마다 전혀 다른 숫자가 나올 것이다. 만약 160㎝ 보다 큰 친구들이라는 정확한 기준을 준다면 몰라도, 단순히 키 큰 아이들이라는 주관적 감으로는 몇 명인지 세기 어렵다. 길거리의 젊은 사람을 찾아보자. 대학생까지만 선택될지 모르지만, 어떤 면에서는 직장인도 충분히 속할 수 있다. 젊다는 것 자체가 굉장히 주관적이라 어떤 자격의 명확한 기준이 될 수는 없다.

무더운 여름이 오면 적당한 실내 온도를 맞추기 위해 에어컨 리모컨을 끊임없이 눌러대지만 아무리 노력해도 온도가 마음에 썩 들지 않는다. ‘적당하다’는 단어가 갖는 의미를 모두 알고는 있지만, 이걸 수치상으로 정확하게 맞추는 건 전혀 다른 이야기이기 때문이다. 불분명한 기준이라면 수학적으로 정의하기가 거의 불가능하다. 호감도나 매력이 정확한 수치로 표현되는 건 연애 시뮬레이션 게임에서나 가능한 일이니까 말이다.

가장 비수학적인 수학적 방식의 시작

이렇듯 정의조차 쉽지 않아 보이는 현실 세계의 애매한 문제를 어떻게든 수학적으로 접근해보려고 시도하는 수학 이론이 있다. 바로 퍼지 이론이다. 퍼지(fuzzy)라는 단어는 ‘애매한’ 혹은 ‘불분명한’이라는 뜻이다. 이름부터 대놓고 애매모호한 이론이다. 과연 모호한 개념을 어떻게 수학적으로 표현했을까. 어디서부터 이런 말도 안 되는 발상이 시작됐을까.



아제르바이잔의 수도 바쿠에서 태어난 애처가 수학자 로트피 자데(Lotfi A. Zadeh, 1921~2017)는 문득 궁금증이 생겼다. ‘내 아내가 과연 얼마나 아름다운지 수학적으로 답할 수 있을까.’ 미국 UC버클리대 교수였던 그는 자동제어 분야의 상당한 권위자였지만, 그가 내놓은 질문에 동료 수학자들은 황당해했다. 기존 수학을 현실에 그대로 적용할 수 없기에 상식적으로 처음부터 말이 안 되는 소리였다. 참신한 아이디어였지만 아무도 호응해주지 않았고, 심지어 절친한 친구이자 현대 제어이론의 개척자 루돌프 칼만(Rudolf E. Kalman)조차 그의 편을 들어주지 않았다. 그 정도로 퍼지 이론은 허무맹랑한 장난처럼 보였다. 지금까지 한 번도 이런 식으로 문제에 접근해본 적이 없었기 때문이다. 하지만 자데는 포기하지 않았다. 1965년 그는 퍼지 집합이라는 새로운 개념을 제시했고 이후 퍼지 숫자, 퍼지 논리 등이 포함된 퍼지 알고리즘을 논문으로 발표했다. 가장 비(非)수학적이면서도 수학적인 사고방식의 시작이었다. 마치 가난한 재벌이나 키 큰 난쟁이라는 표현 같았다.

0과 1뿐이던 세계에 펼쳐진 스펙트럼

현실 세계의 애매한 문제를 수학적으로 보여주는 게 과연 무슨 의미일까. 이제 컴퓨터는 인류 삶에서 한시도 멀리할 수 없는 친근한 도구이며, 우리는 하루도 컴퓨터 없이 살아갈 수 없다. 단순히 책상에 놓인 데스크톱이나 노트북컴퓨터를 제외하더라도, 매일 만나는 수많은 소형 가전제품이나 전자 장비는 이미 대부분 컴퓨터를 통해 제어되고 있다. 원래대로라면 우리가 해야 할 소소한 일까지 대신하고 있지만, 컴퓨터가 사람을 대신하기란 정말 쉽지 않다. 인간의 행동은 대부분 애매모호한 정보를 이용하기 때문이다. 오늘 무엇을 시켜 먹을지에 “아무거나”라고 대답하는 사람도 컴퓨터가 정말 무작위로 주문해버린다면 배달 온 음식이 마음에 들 리 없다. 따라서 오직 0과 1로만 결정을 내리는 컴퓨터에 맞도록 모호한 정보를 모호하지 않은 작업에 활용할 수 있는 수학적 언어로 최대한 바꿔줘야 한다. 처한 상황으로부터 정확한 숫자를 받고, 이걸 계산해 제대로 된 결과를 도출해야만 비로소 컴퓨터는 가치 있는 행동을 할 수 있는 것이다. 퍼지 이론은 애매한 표현을 가능한 한 단순화해 정보 손실을 줄이는 과정에서 기량을 발휘하게 된다.

다시 길거리의 젊은 사람이라는 모호한 기준으로 돌아가보자. 과연 젊다는 건 몇 살부터 몇 살까지 범위를 의미할까. 이 문제를 해결하기 위해서는 먼저 젊다는 용어부터 명확하게 정의해야 한다. ‘젊다’의 사전적 정의는 ‘생리적으로 혈기 왕성하거나, 싱싱하고 탄력 있는 상태’이며, 보통 10대 후반부터 30대 사이로 본다. 하지만 이 범위를 그대로 사용할 수는 없다. 젊은 사람의 수를 세려면 우선 수학적으로 이러한 집단을 정의해야 한다. 수학에서는 특정 조건에 맞는 숫자들의 모임을 집합이라고 부른다. 나이로 어떤 숫자가 주어졌을 때 그 숫자가 젊다는 집합에 속하는지 아닌지를 확실하게 판단할 수 있으면 간단하다. 그런데 일반적 상황에서는 이게 어렵다. 기준이 없기 때문이다.

애매한 문제를 해결하는 놀라운 수학적 방법

퍼지 이론에서는 판단 기준이 명확하지 않은 숫자들의 모임에 대해서도 수학적 시도가 가능하다. 바로 퍼지 집합을 이용하면 된다. ‘젊다’고 표현할 때 이 범위에 속하는 나이를 퍼지 집합으로 표현할 수 있다. 여기서 중요한 건 소속 함수라는 개념이다. 전체 집합에 속한 각 원소가 집합에 얼마나 제대로 속해 있는지 그 정도를 나타내는 것이 바로 소속 함수다. 여기서는 나이를 젊다고 판단할 가능성이 소속 함수가 된다. 18세 고등학생이 과연 젊은 집합에 포함될 수 있는지를 물었을 때 아니라고 할 사람은 거의 없을 것이다. 따라서 이때 소속 함수는 1이다. 하지만 젊다고 생각하는 사람이 10명 중 7명이고, 나머지 3명은 아니라고 답하는 나이라면, 소속 함수는 0.7이 된다. 같은 방식으로 91세 어르신에 대한 소속 함수는 0이라고 볼 수 있다. 즉 일반적으로 컴퓨터가 판단하는 과정에서 주어지는 선택지가 0과 1이라는 2개 숫자만으로 존재한다면, 퍼지 이론은 가능성에 대한 수치를 0부터 1까지 실수로 표현한다. 빛과 그림자 두 가지 선택지만 존재하던 논리의 어둠 속에서 이제 인류는 무한한 무지갯빛 스펙트럼을 만나게 되는 것이다.

확실하지 않은 상황을 이해하기 위해 노력한다는 점에서 얼핏 퍼지 이론은 확률론처럼 보이기도 한다. 하지만 확률론에서 수치를 사용하는 방식은 퍼지 이론과 매우 다르다. 확률론은 언젠가 결과가 나오지만 먼저 예측하는 것이 불가능할 때 편의상 사용한다. 마치 주사위 던지기처럼 말이다. 하지만 퍼지 이론은 다르다. 결과 자체가 불확실하기 때문이다. 어떤 상태를 미리 결정할 수 있도록 확률로 표현하는 것이 아니라, 젊거나 젊지 않은 그 사이의 가능성을 표현하는 게 바로 퍼지 이론이다. 사실 모든 결과 사이에는 명확하게 선을 그을 수 없는 수많은 선택지가 존재할 것이다. 집합의 경계 역시 모호하다. 하지만 사실상 표현이 불가능한 가능성을 정의해냈기에 이제 수학적 접근과 연산을 해내기가 수월해졌다.

이제 샤워하기 딱 좋은 따뜻한 물을 만들어낼 수도 있다. 적당히 어떤 온도가 따뜻한 집합에 포함되는지를 고려해 가능성을 기반으로 한 소속 함수로 퍼지 집합만 만들어내면 된다. 주변 환경에 맞춰 최적의 밝기를 유지하는 조명이나 스마트폰 화면도 마찬가지다. 세밀하게 온도를 통제해 맛있는 밥을 먹을 수 있게 해주는 전기밥솥이나 여러 단계로 나눠 속도를 조절하는 지하철 정지 방식에도 퍼지 이론이 적용된다. 이미 꽤 오래전부터 퍼지 이론은 우리 생활 속에 긴밀하게 존재해왔다.

어느새 셀 수 없이 많은 정보를 처리하는 게 가장 중요한 사회가 됐다. 빅데이터 시대에는 유연한 사고와 합리적 해석이 중요하다. 퍼지 이론 자체는 수학 분야에서 깊이 있는 학문 분야로 탐구되기는 어렵지만, 효율적 추론 방식의 문을 처음으로 열었다. 미래형 컴퓨터나 인공지능을 구현하는 과정에도 퍼지 이론의 근본 개념은 필요하다. 여전히 수학처럼 정확한 학문 체계는 없다. 애매함조차 명료하게 표현하려는 수학적 시도는 앞으로도 보이지 않는 뒤편에서 우리가 해결할 수 없는 수많은 문제를 해결해내리라 믿는다.