카카오, AI 리스크 관리 체계 ‘카카오 ASI’ 구축

카카오 ASI 구조. [카카오 제공]

카카오가 ‘카카오 AI 안정성 이니셔티브’(카카오 ASI)를 구축했다고 밝혔다. 인공지능(AI) 기술 개발과 운영 과정에서 발생할 수 있는 위험 요소를 사전에 식별하고 관리하는 프로세스다.
‌
카카오 ASI는 카카오 AI 윤리 원칙, 리스크 관리 사이클, AI 리스크 거버넌스라는 3가지 요소로 구성된다. ‘카카오 AI 윤리 원칙’은 사회 윤리, 포용성, 투명성, 프라이버시, 이용자 보호 등 원칙을 포함해 개발자와 사용자를 대상으로 한 윤리 가이드라인이다. 2023년 3월 발표한 ‘카카오 그룹의 책임 있는 AI를 위한 가이드라인’을 기반으로 한다.
‌
‘리스크 관리 사이클’은 위험 요소를 체계적으로 다루기 위한 접근법이다. 식별-평가-대응의 순환 단계로 구성된다. AI 기술의 비윤리, 불완전 등을 최소화하고, 안전성과 신뢰성을 확보하기 위해 마련됐다. 사이클은 AI 시스템의 전체 수명주기에 걸쳐 반복적으로 적용된다. ‘AI 리스크 거버넌스’는 AI 시스템 개발, 배포, 사용 등을 관리하고 감독하는 의사 결정 체계다. 조직 내 정책, 절차, 책임 구조 및 외부 규제와의 조화를 포함하며 거버넌스 체계 내에서 관련 위험 요소를 다각도로 검토한다. 김경훈 카카오 AI 안전성 리더는 “AI 시스템 이용에 따른 리스크 발생 주체를 AI와 인간으로 구분하고 발생 주체별 리스크 특성을 반영해 평가·대응 방안을 마련했다”고 말했다.