스스로 행동하는 AI, 권한은 어디까지…카카오, 윤리 기준 마련

|스마트투데이=최아랑 기자| 카카오는 자율 AI 에이전트의 기획부터 운영까지 적용할 윤리 원칙과 이행 가이드를 마련했다고 15일 밝혔다.

지난 13일 개발자 컨퍼런스 ‘if(kakao)26’에서 공개한 새 윤리 원칙 ‘SPIRIT’은 안전·프라이버시·포용·책임·이용자 주체성·투명성과 신뢰성 등 6개 항목으로 구성됐다. 이를 실행 가능한 과제로 구체화하는 이행 방식 ‘NORMA’도 함께 제시했다.

앞서 카카오는 지난 7월 학계·법조계·국제기구 등 외부 전문가 7인으로 구성된 AI 윤리 자문단을 발족하고, 독립적인 검토 의견을 내부 정책에 반영하겠다고 밝혔다.

이번 원칙과 가이드는 외부 자문단과 관련 부서의 검토를 거쳐 이달 초 마련했다. AI 에이전트의 위험을 통제 주도권·목표·권한·참조 자원·상호작용 등 5개 영역으로 나누고, 사람의 감독과 비상 제어, 권한 통제, 데이터 보호 등 필요한 조치를 연결했다.

카카오는 서비스 특성 파악부터 사전 위험 검토, 통제 항목 점검까지 이어지는 ‘AI 윤리 이행 체크리스트’를 연내 적용한다. AI 이용 과정에서 발생할 수 있는 아동·청소년 위험 요소도 반영할 계획이다.

김세웅 카카오 AI&기술윤리소위원회 위원장은 “AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고, 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 가겠다”고 밝혔다.