전 세계 챗GPT 규제 확산 움직임… 숨고르기 들어가나

[CAIDP 홈페이지 캡처, FLI 홈페이지 캡처]

“‘GPT-4’는 이미지를 수집하고 이를 신원에 연결한 뒤 종합적인 프로필을 만들어 대규모 감시를 할 수 있습니다. 우리는 미국 연방거래위원회(FTC)에 ‘오픈AI’와 그 제품 ‘챗GPT’에 대한 조사를 요구할 것입니다. 적절한 안전장치가 마련될 때까지 GPT 시리즈의 추가 상용버전 출시를 중단하도록 FTC에 요청할 것입니다.”

미국 비영리단체 ‘인공지능 및 디지털 정책 센터(CAIDP)’의 마크 로텐버그 회장이 3월 20일(현지 시간) CAIDP 구성원들에게 보낸 e메일 내용의 일부다. 로텐버그 회장은 이 e메일에서 생성형 AI의 위험성을 강조한 뒤 3월 30일 FTC에 오픈AI를 고발했다. FTC가 실제로 오픈AI에 대한 조사를 벌일지는 미지수지만 조사가 현실화할 경우 최근 전 세계에 불고 있는 챗GPT 돌풍도 주춤해질 것이라는 분석이 나온다.

“오픈AI, 법 꼼꼼히 안 따져”

최근 미국에선 GPT-4 등 초거대 AI 언어 모델 기반의 생성형 AI에 대한 우려가 커지고 있다. CAIDP가 3월 30일 FTC에 오픈AI에 대한 조사를 촉구한 게 그중 하나다. CAIDP는 이날 FTC에 제출한 고발장에서 “오픈AI가 상업적으로 출시한 GPT-4는 편향적이고, 기만적이며, 개인정보보호와 공공안전에 위협이 된다”면서 “GPT-4는 투명하고, 설명 가능하고, 공정하고, 건전하고, 책임을 강화해야 한다는 FTC의 AI 사용 기준을 충족하지 못한다”고 지적했다. 이 같은 CAIDP의 고발은 리나 칸 FTC 위원장이 3월 27일 미국 법무부와 진행한 반독점 관련 회의에서 “AI 분야가 주요 빅테크 플랫폼에 의해 지배되지 않도록 살펴보고 있다”고 발언한 뒤 이뤄진 것이어서 실제로 FTC가 오픈AI에 칼날을 겨눌지 더욱 관심이 집중되고 있다.

또 다른 미국 비영리단체 ‘삶의미래연구소(FLI)’는 3월 22일 ‘초거대 AI 개발 일시 중단’이라는 제목의 공개서한을 발표했다. “GPT-4보다 강력한 AI 시스템 개발을 최소 6개월간 중단해야 한다”는 내용의 이 서한에는 4월 5일 오후 7시 기준으로 9396명이 서명했다. 일론 머스크 테슬라 최고경영자(CEO), 스티브 워즈니악 애플 공동창업자, 유발 하라리 예루살렘히브리대 교수 등 유명 인사와 요슈아 벤지오 2018 튜링상 수상자, 스튜어트 러셀 버클리대 컴퓨터과학과 교수 등 AI 분야 권위자 1300여 명이 서명에 동참해 화제가 되기도 했다. FLI는 이 서한에서 “AI 시스템 개발을 일시적으로 중단하는 동안 AI 전문가들이 독립적인 외부 전문가의 감독 하에 ‘고급 AI 설계 및 개발을 위한 안전 프로토콜’을 공동으로 구현해야 한다”고 주장했다.

국내 전문가들은 이런 미국 내 생성형 AI 규제 시도가 AI업계를 위축시킬 수 있다고 분석한다. 조성배 연세대 컴퓨터공학과 교수는 “FTC가 정말로 오픈AI를 조사할지, 그렇게까지 AI 기업의 영업 활동을 제한하려 들진 모르겠다”면서도 “다만 정황상 오픈AI가 GTP-4를 개발할 때 저작권이나 개인정보보호에 관한 법을 꼼꼼히 따지면서 학습용 데이터를 수집한 것 같진 않기 때문에 FTC가 조사에 착수한다면 오픈AI를 비롯한 AI업계가 전반적으로 움츠러들 것으로 보인다”고 말했다. 서민준 KAIST 김재철AI대학원 교수는 “FLI의 AI 개발 잠정 중단 제안은 안전 프로토콜을 만들자는 것 외에도 구체적으로 어떤 AI 규제가 필요한지 논의할 시간을 벌자는 의미”라며 “이런 논의가 활발해지면 AI 기업들도 일단은 숨을 골라야 하지 않을까 싶다”고 설명했다.

‘오픈AI’가 3월 23일 개정한 자사 AI 이용약관 페이지 중 일부. [오픈AI 홈페이지 캡처]

이탈리아 이어 캐나다 조사 착수

아예 국가 차원에서 생성형 AI 사용을 제한하는 사례도 속속 등장하고 있다. 3월 20일 발생한 챗GPT 개인정보 유출 사고가 불씨가 됐다. 이탈리아 데이터보호청은 3월 31일 “챗GPT가 이탈리아의 개인정보보호 규정을 준수할 때까지 서비스 접속을 일시적으로 차단할 것”이라며 자국 내 챗GPT 사용을 금지했다. 이날 이탈리아 데이터보호청은 “챗GPT가 알고리즘 훈련을 위해 개인정보를 대량으로 수집·저장하는 행위를 정당화해줄 법적 근거가 없다”며 “오픈AI가 20일 이내에 대책을 내놓지 않으면 2000만 유로(약 287억 원) 또는 연간 전 세계 매출액의 4%를 벌금으로 물게 될 것”이라고 경고했다. AFP통신 등 외신에 따르면 캐나다에서도 4월 4일 개인정보 유출과 관련해 오픈AI에 대한 당국 조사가 시작됐다. 프랑스, 아일랜드, 독일 등 유럽 국가들도 이탈리아와 접촉하며 챗GPT 사용 금지를 검토하고 있는 것으로 알려졌다. 한국의 경우 4월 3일 미국을 방문하고 있던 고학수 개인정보위원회 위원장이 현지 특파원 간담회에서 “챗GPT를 통해 한국 사용자의 개인정보가 유출됐는지 여부를 확인 중”이라고 말했다.

챗GPT 통해 영업기밀 새 나가

샘 올트먼 오픈AI 최고경영자가 3월 30일 ‘오픈AI 투어 2023’ 소식을 알린 트윗. [샘 올트먼 트위터 캡처]

오픈AI는 3월에만 두 차례 자사 AI 이용약관을 개정하며 사태를 진화하고 있다. 이와 관련해 서민준 교수는 “오픈AI가 최근 AI 이용약관을 업데이트하고 API(응용프로그램 인터페이스)를 통해 수집한 데이터는 AI 학습 및 성능 개선에 활용하지 않겠다는 등의 내용을 명시했다”며 “하지만 이는 약관에 불과하고 각국은 자국 데이터가 오픈AI로 흘러들어가는 것 자체를 원치 않기 때문에 이탈리아를 필두로 생성형 AI를 규제하려는 국가적 움직임은 한동안 계속될 것”이라고 말했다.

개별 기업들도 생성형 AI의 사용을 막는 분위기다. 국내에선 최근 삼성전자가 챗GPT 관련 사용 지침을 강화했고, SK하이닉스는 사내에서 챗GPT 사용을 사실상 금지했다. 삼성전자는 디바이스솔루션(DS) 부문에 한해 3월 11일부터 업무에 챗GPT를 도입했는데, 이후 일부 임직원이 설비 정보, 회의 내용 등을 챗GPT에 입력해 영업기밀이 유출되는 사고가 발생했다. 이로 인해 DS 부문은 챗GPT에 입력할 수 있는 글자 수 등을 긴급 제한하고, 사내 게시판에 챗GPT 오남용에 관한 주의를 당부하는 공지를 올렸다. 아직 챗GPT를 쓸 수 없는 삼성전자 디바이스경험(DX) 부문에선 향후 챗GPT 도입에 따른 보안 문제 등을 방지하고자 임직원을 대상으로 챗GPT 세부 사용 지침 마련에 관한 사전 설문조사를 진행했다. SK하이닉스는 원칙적으로 사내 인터넷망을 통한 챗GPT 접속을 금지하고 있다. 사용이 필요할 경우 사측 승인을 받아야 한다. 이 밖에 SK텔레콤, 포스코 등도 챗GPT 사용에 관한 자체 가이드라인을 두고 있다. 앞서 미국에선 월가 투자은행 다수와 아마존, 월마트 등이 챗GPT 사용을 전면 금지하거나 일부 제한했다.

서민준 교수는 “이전까지는 기업 임직원이 영업기밀을 작정하고 유출하려는 생각이 있지 않은 이상 이걸 웹사이트 어딘가에 입력할 일이 없었는데 이제는 업무 효율성이 올라가기 때문에 자기도 모르게 영업기밀을 밖으로 새 나가게 하고 있다”며 “생성형 AI에 대한 기업들의 규제는 불가피한 현상”이라고 평가했다. 조성배 교수는 “향후 기업들이 생성형 AI에 관한 더 촘촘한 사용 지침을 마련할 것”이라며 “얼마 전 샘 올트먼 오픈AI CEO가 5~6월 전 세계를 돌면서 정책 입안자들을 만나겠다고 한 것도 결국 각국 정부와 기업의 곱지 않은 시선을 불식하기 위한 차원”이라고 말했다.