알고리즘이 나를 규정하진 못해요 [SynchroniCITY]

저서 ‘대량살상 수학무기’를 통해 알고리즘이 불평등을 심화하고 민주주의를 위협하는 사례를 상세하게 밝힌 미국 데이터 과학자 캐시 오닐. [뉴스1]

영대 지난번에 영화 ‘돈 룩 업’ 이야기를 하다 알고리즘 얘기가 나왔죠?

현모 네. 그 영화에서 IT(정보기술)기업 최고경영자(CEO)가 남자 주인공에게 “우리 회사 알고리즘에 따르면 당신은 죽을 때 혼자 죽을 거다”라고 말하잖아요. 하지만 실제로 남자는 사랑하는 가족에 빙 둘러싸여 전혀 고독하지 않은 죽음을 맞죠. 그 예측이 보란 듯이 틀린 게 흥미로웠어요.

영대 그게 알고리즘의 부정확성을 드러낸 장면이기도 하지만, 알고리즘이라는 것도 얼마든지 자유롭게 바꿀 수 있다는 의미 같아요. 당시에는 남자 주인공 소속이나 역할을 따져보면 혼자 외롭게 죽을 거라는 예측이 맞았을 수도 있죠. 하지만 어느 순간 남자가 백악관을 박차고 나오잖아요. 그러면서 미래 시나리오가 바뀌고 결국 달라진 죽음을 맞이할 수 있었던 건 아닐까요?

현모 맞아요! 저도 그게 포인트인 거 같아요. 알고리즘은 어디까지나 과거나 현재까지 데이터를 기반으로 하잖아요. 그러니 내가 기존 패턴이나 틀을 깨는 행동을 하면 얼마든지 새로운 알고리즘을 짤 수 있는 거죠. 마치 지금까지 알고리즘이 나를 맛있는 고깃집으로 안내했다 해도, 갑자기 어느 날부터 고기를 안 먹기 시작하면 알고리즘에서 고기와 연관된 것들이 서서히 사라지는 거처럼요.

영대 점을 보는 거랑도 비슷하죠. 점쟁이가 “당신은 자식을 많이 낳을 팔자야”라고 말해도 아이를 한 명도 안 낳으면 그걸 비켜갈 수 있잖아요. 반대로 팔자에 자식이 없다 해도 아이를 입양하면 부모가 될 수 있는 거죠.

현모 “미래는 예측하는 게 아니라 만들어가는 것”이라는 말을 좋아하는데, 알고리즘에도 그대로 적용되는 듯해요. 방금 점쟁이랑 비교했는데 저는 용한 점쟁이가 신기하듯이, 가끔 이게 알고리즘의 뛰어난 기능인지 우연의 일치인지 헷갈릴 때가 있어요. 예컨대 내가 오늘 우연히 어떤 화가가 언급되는 영화를 봤는데, 며칠 뒤 그 화가의 그림이 걸려 있는 카페에 방문하게 된다거나 하는 게 실은 그저 우연일 뿐인데도 요새는 하도 알고리즘, 알고리즘 하니까 ‘이런 것까지도 영향을 미치나’ 하고 놀라게 되죠. 고장 난 시계도 하루에 두 번은 시간이 맞을 수 있듯이 점쟁이도 운이 좋아 뭔가를 맞힐 수 있고, 알고리즘도 똑같을 수 있는데 말이에요.

영대 그죠. 저는 특히 취향과 관련된 건 더더욱 알고리즘이 나를 규정할 수 없다고 생각해요. 일단 취향은 계속 바뀔 수 있고요. 요즘은 플랫폼에서 추천하는 영화나 음악은 어찌 보면 ‘안전빵’들이라, 누가 들어도 좋아할 만한 무난한 선택지인 경우가 많죠. 평소 로맨틱 코미디물을 즐기는 사람이 또 로맨틱 코미디를 보면 익숙하니까 재미있을 수 있겠지만, 다른 걸 볼 때 뜻밖의 재미를 맛볼 수도 있지 않을까요?

현모 마치 코로나19 사태로 계획한 일들이 취소됐지만 그 대신 계획하지 않았던 일들이 일어나 또 다른 기쁨을 주는 상황처럼 말이죠. 편하고 쉬운 범주에만 머물지 말고 여러 가지 시도를 해보는 게 의외로 즐거움을 줄 수 있어요.

영대 예를 들어 현재 OTT(온라인 동영상 서비스)에서 1위인 작품이라고 해서, 혹은 ‘취향저격’ 콘텐츠라며 AI(인공지능)가 추천해줘서 그냥 눌러 보는 건 한마디로 내 선택을 기계에 외주 주는 느낌이에요.

알고리즘의 의존도가 커질수록 다양성이 줄어들 가능성이 높다. [GETTYIMAGES]

현모 결국 모두가 똑같은 걸 보고 듣고 즐기게 될 수도 있고요. 저는 사회 성숙도를 평가하는 지표 가운데 하나가 다양성이라고 믿어요. 다양성은 개인 성숙도를 결정하는 데도 중요한 잣대가 되죠. 그런데 알고리즘에 대한 의존도가 높아질수록 그 다양성이 사라질 가능성이 큰 거 같아요.

영대 심지어 운전할 때도 내비게이션 추천 경로만 무조건 따를 필요가 없다니까요.

현모 비유하자면 길을 가다 무심코 돌담 밑에 핀 꽃 한 송이를 발견하는 재미가 점점 줄어들고 있는 거 같아요. 자꾸만 AI가 우리를 잘 포장된 8차선 대로로만 안내하니까요. 소소한 골목길이 얼마나 다채롭고 재미있는데!

영대 앞으로 AI나 알고리즘에 대한 비판과 문제의식이 점점 커질 거 같아요. 원래 인간은 기술의 진정한 효용은 나중이고, 일단 발전부터 시키고 보는 경향이 있잖아요. 높은 건물을 세울 때 더 많은 인원을 수용할 수 있다는 장점 때문이 아니라, 건축적으로 그게 가능하다는 사실을 입증하기 위해 높이 세우는 것과 마찬가지로요. 그런데 AI 기술도 어느 정도 무르익은 단계에 이르렀으니, 이제는 윤리적 가이드라인이나 사용자로서 성찰이 점차 대두되겠죠.

현모 이미 과학철학자들이 하나 둘 그런 전망을 하더라고요. 자율주행차도 단순한 주행뿐 아니라 생명과 직결된 수많은 사고에 노출될 텐데, 기계가 피해를 최소화하는 방향으로 판단하게 하려면 어떻게 코드를 입력할 것인가, 사람 얼굴을 인식하고 판별하는 이미지 기반 프로그램이 개발자가 가진 인종, 성별, 생김새에 대한 편견에 구애받지 않을 것인가 등등이요.

영대 특히 전 세계적으로 청소년을 포함한 인구 수억 명이 매일 사용하는 SNS(소셜네트워크서비스)의 경우 조회수를 위해 유해한 알고리즘을 조장하고 있지는 않은지 정말 걱정돼요.

현모 그러고 보니 2018년인가 SBS에서 주최하는 SDF(서울디지털포럼)에 데이터 과학자 캐시 오닐이 연사로 참석했는데, 원래는 투자회사에서 일하다 업계에서 쓰는 알고리즘에 환멸을 느껴 시민운동가로 변신했대요. 사람들이 보통 ‘알 수 없는 복잡한 연산’이라고 하면 의심하지 않고, 또 과학이나 수학이라는 이유로 전적으로 신뢰하곤 하지만 사실은 그것도 사람이나 기업이 설계했기에 경계할 필요가 있다는 게 그의 메시지였어요. ‘대량살상 수학무기’라는 책도 썼고요. 그때만 해도 유튜브나 페이스북 같은 SNS의 알고리즘에 별다른 의문을 제기하기 전이었어요. 그러다 2020년 ‘소셜 딜레마’라는 영화가 나오면서 기업들이 수익을 위해 얼마나 교묘하게 알고리즘을 이용하는지 알게 돼 진짜 경악했죠.

영대 맞다! 새해엔 집 안 대청소하듯이 알고리즘부터 정리하라는 소리도 들었어요. 이를테면 컴퓨터나 스마트폰에서 방문 기록 또는 쿠키를 삭제한다든가 하는 거요.

현모 오, 이런 건 어때요? 문득 아이디어가 떠올랐어요! 일명 ‘알고리즘 스위치’!

영대 그게 뭐예요?

현모 영화 ‘로맨틱 홀리데이’에서 집을 서로 교환하듯이, 다른 사람의 알고리즘으로 한 번 살아보는 거죠. 그러면 무엇보다 인터넷 첫 화면, 유튜브 피드부터 확 달라질 거예요. 요즘 정치적으로, 취향적으로 분열이나 갈등이 심해지는 이유 중 하나가 내가 팔로하는 세상이 전부라고 여기기 때문인데, 그런 좁은 시야에서 탈피할 수 있는 기회를 가져보자는 취지죠. 물론 비밀번호나 개인정보 유출 등 현실적 제약으로 실행은 어렵겠지만요. 역지사지를 체험할 수 있지 않을까요?

영대 ㅎㅎ 우물 안 개구리에게 좋은 처방이 될 수 있겠네요.

현모 그나저나 algorithm은 왜 우리말로 ‘알고리즘’인 걸까요? 무슨 다다이즘, 귀차니즘 같은 -ism(-주의)처럼 들리게요. ‘알고리듬’이 될 수도 있었는데. ㅋㅋㅋ

영대 알고리듬 앤드 블루스~~.

현모 으앗, 재즈바 이름으로 딱이네요~. ㅋㅋㅋ

(계속)