본문 바로가기

주간동아 로고

  • Magazine dongA
통합검색 전체메뉴열기

AI로 ‘얼굴 없는 살인자’ 악플러 잡아낸다 [궤도 밖의 과학]

남의 불행에 기뻐하는 ‘샤덴프로이데’, 타인 행복 기쁨으로 느끼는 ‘무디타’로 극복해야

  • 궤도 과학 커뮤니케이터 nasabolt@gmail.com

AI로 ‘얼굴 없는 살인자’ 악플러 잡아낸다 [궤도 밖의 과학]

인터넷 환경은 날로 발전하지만 악플 대응은 여전히 미비하다. [GETTYIMAGES]

인터넷 환경은 날로 발전하지만 악플 대응은 여전히 미비하다. [GETTYIMAGES]

1999년 인터넷 서비스가 상용화한 지 벌써 22년이 됐다. 속도도 1200배 이상 빨라졌고, 5G라는 5세대 모바일 네트워크까지 등장했다. 상상조차 할 수 없던 쾌적한 온라인 세상이 완전히 자리 잡은 셈이다. 이쯤 되면 웬만한 불편함은 전부 사라져야 할 텐데, 다른 형태의 치명적인 고통은 여전히 남아 있다. 바로 악성 댓글이다.

2018년 정보통신정책연구원이 공개한 보고서에 따르면 최근 3개월 동안 온라인 게시판에 댓글을 달거나 글을 작성한 적이 한 번 이상 있다고 응답한 사람은 전체 응답자 9425명 중 8%에 불과했다. 악성 댓글이 아니라 댓글 자체를 다는 사람이 생각보다 적다는 느낌이 든다. 심지어 댓글 중 악성 댓글 비율은 고작 1% 수준이다. 최근 소셜네트워크서비스(SNS)나 동영상 플랫폼 이용이 증가하면서 댓글 작성 빈도도 과거보다 많이 늘었지만, 여전히 댓글을 한 번도 달아본 적 없는 사람이 훨씬 많다.

문제는 그 1%이다. 다수의 침묵을 대번에 덮어버리는 소수의 악의적 댓글이 무자비하게 약자를 공격한다. 비난의 대상이 된 이들 중 일부는 끝내 스스로 목숨을 끊기도 했다. 도대체 왜 그들은 ‘얼굴 없는 살인자’를 자처하는 것일까.

악성 댓글을 다는 과학적 이유

악플러 심리에는 남의 불행을 기쁨으로 인식하는 ‘샤덴프로이데’
속성이 있다. [GETTYIMAGES]

악플러 심리에는 남의 불행을 기쁨으로 인식하는 ‘샤덴프로이데’ 속성이 있다. [GETTYIMAGES]

댓글이라는 서비스는 유용하다. 기원전 5세기 무렵 고대 그리스 아테네를 중심으로 시작된 최초 민주주의처럼 국민이 아고라라는 광장에 모여 의견을 나누는 것은 지금으로선 불가능하다. 그래서 많은 인구와 넓은 영토를 가진 국가는 소수의 의견에 귀 기울일 수 있는 댓글이 훌륭한 장치가 된다. 문제는 보는 앞에서는 결코 하지 못할 말을 마치 다른 인격이 나타난 것처럼 편하게 적는다는 점이다. 왜 온라인에서는 이러한 행위가 가능할까.

영국 행동심리학자 조 헤밍스(Jo Hemmings)는 악성 댓글을 작성하는 이유와 관련해 자신의 견해를 밝혔다. 악성 댓글 작성자는 대부분 사회에서 제대로 존중받지 못하기 때문에 균형을 잃은 대인관계로부터 오는 스트레스를 온라인에서 해소하려 한다. 현실에서는 함부로 공격성을 표출하기 어려우니, 자신이 안전하게 보호받을 수 있다고 믿는 가상의 공간에서 내적 열등감과 분노를 마음껏 분출하는 것이다. 종종 앞서 달린 댓글을 따라 맹목적으로 비난하기도 한다. 일단 댓글 분위기가 결정되면 대세에 따라 더 자극적이고 정교하게 공격해야 추천을 많이 받을 수 있기 때문이다. 다른 작성자들로부터 저급한 수준의 인정과 지지를 받으며 유명해진 악성 댓글을 통해 낮았던 자존감을 높이고 자신의 가치를 발견한다. 물론 모욕이나 명예훼손 등의 사유로 처벌받게 되면 다시 현실로 돌아온다.



심리학 용어 가운데 독일어로 ‘샤덴프로이데(Schadenfreude)’라는 것이 있다. 남의 불행이나 고통(Schaden)을 보면서 기쁨(Freude)을 느끼는 심리를 나타내는 합성어인데, 한국어로 간단히 표현하면 ‘쌤통’이다. 일본 교토대 의학대학원 연구진은 도대체 이런 감정이 왜 생기는지 알아보고자 실험을 설계했다. 평균 연령 22세의 젊은 남녀 19명에게 자신이 주인공인 가상의 시나리오를 주고 읽게 했다. 내용에 등장하는 동창생들은 평범한 자신과 달리 굉장히 성공한 인물들로 설정했다. 그 결과 피험자들이 강한 질투를 느낄수록 ‘배측 전대상 피질’이 활성화하는 현상이 관측됐다. 뇌의 이 부분은 불안한 감정이나 고통을 느낄 때 반응하는데, 특히 자신이 몸담고 있는 분야에서 친한 친구가 두각을 나타냈다는 이야기를 들었을 때 더 강한 변화가 생겼다. 여기서 ‘사촌이 땅을 사면 배가 아프다’는 속담도 꽤 과학적이라는 것을 확인할 수 있다.

반대로 동창생들이 불행한 일을 당했다는 소식을 들었을 때는 기쁨과 만족감을 발생시키는 보상회로인 ‘복측 선조체’가 활발하게 활동했다. 질투의 대상이 불행을 겪을 때 우리 뇌는 기쁘다는 느낌을 받는다는 것이다. 재미있는 사실은 자신과 별로 관련 없는 분야에 종사하거나 잘 모르는 대상이 겪는 불행에는 별 반응이 없었다는 점이다. 익명의 악성 댓글 작성자가 알고 보니 가까운 지인인 경우도 그래서 많다. 배우나 가수 같은 유명인의 경우 수많은 대중이 그들을 친밀하게 느끼기 때문에 악성 댓글에 동조하거나 묵인하는 사례가 많다는 결론을 내릴 수도 있겠다.

내 생각만 진실이라 여기는 ‘동일시’

정신분석학에 ‘동일시(identification)’라는 용어가 있다. 호감이 있거나 존경하는 상대의 행동, 가치관을 자기 것으로 받아들이고 닮아가는 과정을 말하는데, 긍정적 측면에 대한 여러 연구가 진행되고 있다. 비슷한 용어로 내면의 생각과 외부 세계를 구분하지 않는 정신 상태를 뜻하는 ‘정신적 동등(psychic equivalence)’이 있는데, 앞선 단어와 유사한 느낌이지만 내용은 전혀 다르다. 타인의 행동을 볼 때 상대의 의도와 상관없이 오직 자기 생각만 진실이라고 단정해버리는 것이다. 이것이 좋지 않은 방향으로 흘러가면 주위 사람의 모든 행동을 자기중심적으로 해석하게 되고, 자칫 사회생활에 어려움이 생길 수도 있다.

전문가들은 악성 댓글을 남기는 사람들의 심리가 정신적 동등 상태에 있을지도 모른다고 분석한다. 기사나 SNS상의 사진과 문장 몇 개로 대상의 숨겨진 목적을 쉽게 추측하고, 웃으며 넘어갈 수 있는 행동에 과도한 의미를 부여하며 격분한다. 심지어 자신의 내면에만 집중하느라 상대방에게 얼마나 큰 상처를 줬는지는 바로 잊어버린다. 스스로 판단한 상대의 의도는 사실이 아니라 억측일 수 있다. 조금만 노력하면 이상하게만 보이던 타인의 행동들이 그럴 수도 있겠다는 여유로움으로 품어질 것이다. 악성 댓글이라는 날카로운 칼날 대신 부드러운 손길이 온라인상에 가득하다면 세상의 모습은 어떻게 바뀔까.

한때 인터넷 실명제를 도입해 악성 댓글을 규제해야 한다는 목소리가 크던 시절이 있었다. 하지만 표현의 자유 침해나 아이디(ID) 도용 피해를 언급하지 않더라도, 우선 악성 댓글이 줄어드는 효과가 전혀 체감되지 않았다. 실명 확인 절차를 마쳐야 댓글을 달 수 있게 한 플랫폼에서도 언론에 오르내릴 만큼 참혹한 악성 댓글이 난무했다. 실명을 내밀도록 하는 것만으로는 현실의 예의와 도덕성을 갖추게 할 수 없었다. 악성 댓글을 불법 정보에 포함해 누구든 서비스 제공자에게 삭제를 요구할 수 있게 한 법안도 나왔다. 아예 원초적 해결법으로 댓글을 쓸 수 있는 공간을 없애자는 의견도 있다. 교통사고가 일어나니 자동차를 금지하자는 뜻인데, 온라인 소통 공간의 순기능도 무시할 수 없다. 전문가들은 악성 댓글을 줄일 수 있는 과학적 아이디어를 고민하기 시작했다.

인공지능으로 악성 댓글 검열 가능

인공지능(AI)으로 악성 댓글을
검열하는 기능이 생겨났다. [GETTYIMAGES]

인공지능(AI)으로 악성 댓글을 검열하는 기능이 생겨났다. [GETTYIMAGES]

누군가 악성 댓글을 취소하거나 순화된 표현을 사용하도록 안내하면 어떨까. 모니터링을 하는 것만으로도 굉장한 인력과 예산이 투입되겠지만, 인공지능이 그 역할을 한다면 이야기는 달라진다. 작성자가 부정적 내용을 적어서 올린다면 게시 직전 인공지능이 먼저 읽어보고 판단해 문제가 있다는 사실을 알린다. 비슷한 방식으로 채팅이나 댓글을 필터링하는 기술은 꽤 오랫동안 있었지만, 고도화된 인공지능이 팔을 걷어붙이고 참여해 끊임없이 학습한 결과 축약어나 구어체, 에둘러 표현하는 형태의 악성 댓글도 이젠 탐지가 가능해졌다.

포털사이트는 욕설이나 비속어를 다른 기호로 바꿔주는 기능을 도입했고, 악성 댓글이나 무분별한 비방은 알아서 숨긴다. 미국 시사주간지 ‘타임’ 표지를 장식한 10대 과학자이자 발명가 기탄잘리 라오(Gitanjali Rao)도 인공지능 기술을 활용해 사이버 괴롭힘을 조기에 감지하는 서비스를 개발했다.

국내에서도 비슷한 고민을 해온 기업 덕분에 2009년부터 ‘소셜댓글’이라는 서비스가 최초로 시작됐다. 소셜댓글은 SNS와 연동해 댓글을 다는 플랫폼으로, 이를 활용하면 회원 가입 없이 댓글을 작성할 수 있으며, 자신의 댓글과 반응을 모아 관리하고 분석하는 것이 가능하다. 특히 작성한 댓글이 현실에 존재하는 지인들과 연결되기 때문에 좀 더 책임감을 갖고 신중하게 댓글을 쓰게 된다는 장점이 있다. 온라인상에서 익명성을 유지하면서도 댓글과 사회적 관계를 연결해 어떤 상황에서도 최소한의 품위를 갖추게 만든다.

이제 악성 댓글은 지능적으로 진화하기도 한다. 법적으로 문제가 될 수 있는 욕설이나 인신공격을 최대한 걸러내고, 객관적인 의견을 표명하는 척하며 내면의 본질적 약점을 공격한다. 온라인상에서 표현의 자유는 누구에게나 있기에 여전히 부족한 이 글에도 악성 댓글이 충분히 달릴 수 있다. 하지만 상대를 눈앞에 두고 할 수 없는 말은 익명의 공간에서도 하지 않는 것이 옳다. 샤덴프로이데와 정확히 반대되는 의미의 불교 용어로 ‘무디타(Mudita)’라는 것이 있다. 타인의 행복을 보고 교감하는 기쁨을 말한다. 선량한 99%의 사람이 침묵을 깨고 번거롭겠지만 선한 댓글을 열심히 작성한다면 평화롭고 자발적인 방식으로 악성 댓글을 자연스럽게 도태시킬 수도 있다. 오늘부터 모두의 소중한 공간이 분노와 슬픔으로 가득 차버리지 않도록 함께 노력하자.

궤도는… 연세대 천문우주학과 학부 및 대학원을 졸업하고 한국천문연구원 우주감시센터와 연세대 우주비행제어연구실에서 근무했다. ‘궤도’라는 예명으로 팟캐스트 ‘과장창’, 유튜브 ‘안될과학’과 ‘투머치사이언스’를 진행 중이며, 저서로는 ‘궤도의 과학 허세’가 있다.





주간동아 1298호 (p52~54)

궤도 과학 커뮤니케이터 nasabolt@gmail.com
다른호 더보기 목록 닫기
1317

제 1317호

.12.03

위기의 롯데, 절대로 잘리지 않는 기업은 옛말

목차보기구독신청이번 호 구입하기

지면보기 서비스는 유료 서비스입니다.