AI 서비스, 과연 안전할까?…네이버, 110가지 위험 거르는 해법 내놨다

|스마트투데이=최아랑 기자| 네이버가 자체 AI 안전성 체계 ‘ASF 2.0’이 실제 서비스에 적용되는 과정과 구체적인 실행 사례를 담은 ‘AI Safety Progress Report’를 처음으로 발간했다고 16일 밝혔다.

ASF 2.0은 AI 모델의 성능과 위험 수준은 물론, 이용자와 서비스 보호까지 포괄하는 네이버의 AI 안전성 관리 체계다. 네이버의 ‘On-service AI’ 전략과 글로벌 AI 생태계 및 정책·제도 환경의 변화 등을 다각적으로 반영해 AI 서비스의 설계·개발부터 출시, 운영에 이르는 전 과정에서 안전성을 체계적으로 관리하는 것을 목표로 한다.

여기서 'On-service AI' 전략이란 실험실 수준의 단순한 기술 연구를 넘어, 실제 사용자들에게 제공되는 상용화 서비스 단계에서 발생할 수 있는 예상치 못한 문제까지 철저하게 관리하겠다는 실용적인 접근법을 뜻한다.

이번 리포트에는 ASF 2.0과 이를 기반으로 한 실행 체계 ‘CHEC 2.0’이 실제 서비스에 어떻게 적용되고 작동하는지 구체적인 사례와 함께 담겼다.

우선 네이버는 AI 서비스에서 발생할 수 있는 위험을 법률적·사회적·산업적 사례를 바탕으로 110개 세부 항목으로 분류한 AI 위험 분류·식별 체계 ‘N-ARTI(NAVER AI Risk Taxonomy & Identification)’를 마련했다. N-ARTI는 서비스별 특성을 반영하면서도 전사에 일관된 안전 기준을 적용할 수 있도록 AI 위험을 체계적으로 식별하고 분류한다.

이를 바탕으로 생성형 AI 서비스가 제공하는 정보가 사전에 설정된 안전 기준을 벗어나지 않도록 관리하는 ‘가드레일’을 구축할 수 있다. AI 가드레일은 인공지능이 편향되거나 혐오스러운 발언, 혹은 사실이 아닌 그럴듯한 허위 정보(환각 현상)를 생성하지 않도록 사전에 차단하는 일종의 디지털 방어벽 역할을 한다.

또한 생성형 AI 서비스가 제공하는 답변의 안전성을 평가하는 ‘N-ASET(NAVER AI Safety Evaluation Toolkit)’도 마련했다. N-ASET은 AI 서비스의 응답을 ‘유해성(사용자에게 해를 끼칠 수 있는 내용 포함 여부)’과 ‘사용성(질의에 적절히 답변하고 면책 문구 등 안전 요소를 갖추었는지 여부)’이라는 두 가지 관점에서 종합적으로 평가하는 도구다. 단순히 유해한 답변을 차단하는 데 그치지 않고 질의에 적절하게 대응했는지까지 살펴봄으로써 안전성과 유용성을 균형 있게 평가하도록 설계됐다.

리포트에서는 AI 쇼핑 에이전트와 날씨 서비스 등에서 AI 활용 사실을 명확히 표시해 이용자에게 안내한 사례도 소개됐다. AI 안전성을 위한 조치가 실제 서비스에서 어떻게 구현되고 있는지 이용자들이 직관적으로 이해할 수 있도록 적극적으로 소통하겠다는 취지다. 지난 6월 선보인 검색 서비스 ‘AI탭’ 역시 CHEC 2.0을 기반으로 설계부터 출시까지 전 과정에서 안전성을 점검한 사례다.

앞으로 네이버는 KAIST, 서울대 인공지능 정책 이니셔티브(SAPI), 고려대 인공지능안전연구센터, 인공지능안전연구소(AISI) 등 국내외 학계 및 전문기관과의 협력을 확대하며 AI 서비스 위험을 선제적으로 파악하고 예방하기 위한 연구를 이어갈 계획이다.

원성재 네이버 AI Safety 센터장은 “AI 기술이 이용자의 일상에 빠르게 스며들면서 AI 안전성 역시 이론적 논의를 넘어 실제 서비스 환경에서 구체적으로 다뤄야 하는 단계에 접어들고 있다”며 “네이버는 AI의 개발과 이용 전 과정에서 인간 중심의 가치를 최우선으로 두고, AI 서비스에서 발생할 수 있는 위험을 예방하고 완화할 수 있도록 ASF 2.0을 지속적으로 고도화하고 적용해 나갈 것”이라고 말했다.