미국 학교에는 학생들의 채팅창을 실시간으로 감시해 위험 신호를 감지하고, 이를 경찰에 알리는 인공지능(AI) 기반 모니터링 프로그램이 도입되고 있다. GETTYIMAGES
영화 속 이야기라고 치부했던 이 장면이 2025년 미국 교육 현장에서 현실화하고 있다. 최근 AP통신 보도에 따르면 미국의 수천 개 초중고교가 학생들의 정신건강과 안전을 도모한다는 명분으로 인공지능(AI) 기반 모니터링 프로그램을 도입하고 있다. ‘개글(Gaggle)’ ‘라이트스피드 얼럿(Lightspeed Alert)’ ‘바크(Bark)’ 같은 모니터링 프로그램은 학생에게 지급된 개인용 컴퓨터(PC)와 학교 네트워크 전반을 실시간으로 감시하고 자살·폭력 등 위험 신호가 포착되면 경찰에 곧바로 통보한다.
“멕시칸 죽이겠다” 채팅만 해도 구금
문제는 이러한 모니터링 프로그램이 단순한 범죄 예방을 넘어 학생의 사생활과 표현의 자유를 심각하게 침해한다는 점이다. 2023년 8월 미국 테네시주에 사는 중학교 2학년 여학생은 피부색을 이유로 ‘멕시칸’이라고 놀림을 받았다. 이후 학생은 학교 이메일과 연동된 채팅창으로 친구와 대화하면서 “멕시칸을 다 죽일 거야”라고 했다.장난 섞인 발언이었지만 몇 분 후 경찰이 집으로 들이닥쳤다. 체포된 학생은 알몸으로 수색당하고 유치장에서 하룻밤을 보냈다. 그 과정에서 부모와의 접촉조차 허용되지 않았다. 이후 법원은 해당 학생에게 8주간 가택 연금과 정신감정, 20일간 대안학교 출석을 명령했다. 단 한 줄의 문장 채팅이 학생의 한 학기를 통째로 날려버린 것이다.
이러한 사례는 한두 건에 그치지 않는다. 수업 중 짜증이 나 “선생님을 한 대 치고 싶다”고 입력했다가 곧바로 삭제한 학생은 5분 만에 출동한 경찰에 체포됐다. 모니터링 프로그램 구조상 AI가 위험 신호를 탐지하면 즉시 관리자와 경찰에게 알림을 보내기 때문이다. AI 모니터링 프로그램은 농담·풍자·일시적 감정 표현도 위험 신호로 간주한다.
미국 학교 관리자들은 모니터링 프로그램이 학생들의 단순 감정 표현까지 지나친 위험 신호로 받아들인다는 사실을 알면서도 “사고를 한 번이라도 막을 수 있다면 AI 모니터링 프로그램의 부작용은 감수할 가치가 있다”는 입장이다. 심지어 “(AI 모니터링 프로그램을 통한 통제 경험이) 학생들에게 경각심을 줄 것”이라고 기대하면서 시스템 확산을 반기고 있다.
학교 관리자들이 모니터링 프로그램 확산을 반기는 배경에는 미국의 잦은 학내 총기 사고가 있다. 2023년 기준 미국에서 발생한 학내 총격 사건은 300건을 넘어섰다. 이 같은 현실은 ‘위험 신호 사전 차단’이라는 논리를 강화했다.
AI 모니터링 프로그램은 특정 키워드가 입력되면 위험 신호로 간주하는 단순한 기술을 넘어 챗GPT 같은 거대언어모델(LLM)과 결합해 좀 더 정교하게 ‘위험한 대화’를 판별하는 방향으로 발전하고 있다. 그러나 LLM 역시 맥락을 오판하는 문제를 안고 있다. 실제로 LLM 기반 모니터링 프로그램이 학생이 과제 제출을 위해 쓴 소설의 문구나 농담을 ‘위협’으로 잘못 분류해 경찰이 개입한 사례들이 보고됐다.
농담·풍자·일시적 감정 표현도 ‘위험 신호’로 간주
이러한 감시시스템은 미국에서만 도입된 것이 아니다. 영국은 ‘교육에서 아이들을 안전하게 지키기’(Keeping Children Safe In Education·CSIE)와 ‘차단 의무(Prevent Duty)’ 같은 법정 안전 지침에 따라 학교에 필터링 및 모니터링시스템 도입을 의무화했다. 학생들이 사용하는 인터넷에서 특정 키워드가 탐지되면 ‘극단화 방지 경찰팀’에게 알림이 간다. 호주와 뉴질랜드도 온라인 규제 기관 ‘이세이프티(eSafety)’의 관리 하에 학생들의 기기와 네트워크를 상시 분석하는 시스템을 도입했다.중국은 더 오래전부터 학생들에게 위치를 감지하는 ‘지능형 교복’을 입게 하고, 학교에 안면인식 장치를 부착하는 등 디지털 결합형 감시체계를 운영하고 있다. 이러한 감시시스템은 교육 현장을 넘어 직장, 공공기관, 다중이용시설로 확산 적용되고 있다. 중국에 5억 대 이상 설치된 공공 폐쇄회로(CC)TV는 안면인식 및 행동 분석 AI와 연동돼 있다. 이를 통해 실시간으로 시민을 식별하고 추적한다. 실제로 한 중국인이 쓰레기를 태우려고 성냥에 불을 붙였는데 CCTV가 이를 탐지한 사례가 있다. 해당 마을 방송 장비에서는 그의 이름과 주소가 공개되며 즉시 불을 끄라는 경고가 흘러나왔다. 이러한 전방위적 감시체계는 치안 유지와 범죄 예방을 명분으로 내세우지만 사실상 시민의 일상 전반을 국가가 실시간 관리, 통제하는 도구로 기능하고 있다.
우리는 ‘예측 감시 사회(Predictive Surveillance Society)’에 이미 들어섰다. 안전이라는 명분이 사생활과 표현의 자유보다 우선시되면서 ‘내심(內心)의 혐의’만으로 강제력이 발동하는 체제다. 영화 속 장면이 현실로 이식될 때 우리는 무엇을 잃고 무엇을 얻을 것인가. AI는 사회 안전망을 강화할 잠재력이 있지만 잘못 설계되거나 오남용되면 민주사회가 지켜야 할 기본권을 무너뜨릴 수 있다. 범죄 예방과 자유 사이의 경계선을 어디에 그을지, 이제는 학교 울타리를 넘어 사회 전체가 냉정하게 고민해야 할 시점이다.
