생성형 인공지능(AI)은 이제 일부 얼리어답터나 전문가만의 도구가 아니다. 누구나 일상에서 생성형 AI를 사용해 재테크 상담을 하기도 하고 아이 양육과 진로, 사랑, 우정에 대해 조언을 구하거나 위로를 받기도 한다. 누구나 쉽게 쓸 수 있다 보니 인스타그램이나 유튜브, 틱톡 등 소셜네트워크서비스(SNS)에는 AI로 만든 콘텐츠가 쏟아지고 있다. 콘텐츠가 조금이라도 의아하고 평범하지 않다면 “AI로 만들었나”라는 의심이 자연스레 피어오른다.

문제는 겉으로는 그럴듯하지만 보고 나면 묘하게 찝찝한 감정이 남는 AI 콘텐츠가 폭증하고 있다는 점이다. 최근 러시아 캄차카에 폭설이 내려 아파트 10층 높이까지 쌓인 눈 위에서 썰매를 타는 사람들 모습이 ‘AI로 만든 것이 아닌 진짜 영상’이라며 온라인에서 퍼졌다. 하지만 이것도 AI로 만든 영상임이 밝혀졌다. 미간을 찌푸려지게 하는 이런 콘텐츠를 ‘AI 슬롭’(slop·찌꺼기)이라고 부른다.

AI 영상 유통하는 플랫폼 신뢰도 하락

최근 가장 많이 관찰되는 AI 슬롭 전형은 ‘의미 없는 요약’이다. AI로 제작된 뉴스 요약 콘텐츠를 보면 사실관계는 맞지만 이 뉴스가 왜 중요한지 설명하는 맥락은 사라지고 무미건조한 단어만 그럴듯하게 나열돼 있다. AI로 만든 이미지와 영상은 절로 눈길이 갈 만큼 자극적인데, 막상 보고 나면 해당 콘텐츠가 어떤 메시지를 전달하고자 하는지 혼란스럽다. 사업적 인사이트를 주는 근사한 인포그래픽과 슬라이드, 도표, 다이어그램도 얼핏 보면 체계적으로 정리된 듯하지만 자세히 보면 일부 글자가 왜곡되거나 비슷한 단어가 반복된다. “이것도 AI로 만든 거네”라는 생각이 드는 순간이 많아지면서 피로감이 든다. AI로 치장한 콘텐츠는 넘쳐나는데 이걸 왜 봐야 하는지에 대한 메시지는 주지 못하고 있다.

AI 슬롭은 이미 사용자의 행동을 변화시켰다. 사용자들은 갑자기 크게 주목받는 인기 영상을 마주하면 AI로 만든 것은 아닌지 자세히 살펴보고 의심한다. 또한 AI 슬롭 콘텐츠를 무분별하게 생성하고 실어 나르는 계정은 팔로를 취소하고 무시한다. 더 나아가 SNS ‘추천 피드’ 메뉴를 덜 신뢰하고 알고리즘이 띄우는 콘텐츠에 불신을 갖는다. 이는 AI 슬롭이 단순히 콘텐츠 품질 문제를 넘어 플랫폼과 사용자의 신뢰 관계를 약화하고 있음을 보여준다. 플랫폼 회사는 AI 슬롭을 통해 사용자의 체류 시간을 당분간 유지하지만 회사에 대한 신뢰나 충성도는 서서히 침식되는 위험한 국면에 접어들 수 있다.

사업적 측면에서도 AI 슬롭에 의한 변화가 감지된다. 브랜드 마케팅 영역에서는 “AI로 만든 것처럼 보이면 신뢰도가 떨어진다”는 인식이 확산하고 있다. 이에 일부 글로벌 브랜드는 광고 이미지와 카피에 AI 활용 여부를 명시하거나 사람이 직접 만들었다는 점을 차별화 포인트로 내세우기 시작했다. 한동안 마케팅 영역에서는 높은 AI 활용 능력이 경쟁력으로 받아들여졌는데, 최근에는 다시 인간의 개입과 책임을 강조하는 방향으로 일부 되돌아가고 있는 것이다.

콘텐츠 양극화 심화하는 AI

AI 슬롭이 넘쳐나는 구조적 원인은 AI 기술 자체에 있다. 대규모 생성 모델은 평균값에 가까운 결과를 반복적으로 만들어낸다. 이 평균값은 인간 사회에서 가장 안전하지만 가장 무의미하다. 많은 사람에게 거슬리지 않는 표현은 동시에 누구에게도 깊은 인상을 남기지 못한다. AI 슬롭이 대량 유통되면 사용자는 정보 과잉이 아니라 의미 결핍 상태에 빠진다. 결국 사용자는 더 강한 자극 또는 더 극단적인 주장으로 이동하거나, 반대로 디지털 공간 자체를 회피할 수 있다. AI가 만들어낸 비슷비슷한 콘텐츠 홍수 속에서 온라인 콘텐츠의 하향 평균화가 나타나고 있다.

앞으로 AI 슬롭은 두 갈래의 시장을 만들어낼 가능성이 크다. 하나는 저비용 대량생산 콘텐츠 시장으로, 이 영역에서는 AI 슬롭이 기본값이 된다. 다른 하나는 신뢰와 맥락, 책임이 중요한 고부가가치 콘텐츠 시장이다. 이곳에서는 해당 콘텐츠를 누가 만들었는지, 제작자는 어떤 경험과 전문성을 가졌는지, 제작자가 어떤 서사 속에서 해당 콘텐츠를 왜 만들었는지가 콘텐츠 경쟁력이 된다. 어느 시장의 콘텐츠를 소비하느냐에 따라 사용자 경험은 더욱 양극화될 전망이다. 플랫폼은 두 시장을 동시에 만족시키기 어려울 것이다. 

_{*유튜브와 포털에서 각각 ‘매거진동아’와 ‘투벤저스’를 검색해 팔로잉하시면 기사 외에도 동영상 등 다채로운 투자 정보를 만나보실 수 있습니다.}