MS, "인간 몰래 AI끼리 소통 금지" 강령 발표

|스마트투데이=최성 기자| 인공지능(AI) 리더들이 개발 속도 조절 필요성을 제기하는 상황에서 마이크로소프트(MS)도 행동강령을 공개하며 힘을 보태고 있다.

15일 연합뉴스에 따르면, MS는 "MS AI는 '인간이 AI보다 중요하다'는 단순한 전제에서 출발한다"는 내용을 담은 행동강령을 자사 홈페이지를 통해 14일 공개했다.

MS는 "이 행동강령은 인간을 최우선으로 하여 설계되고, 인간의 필요에 기반을 두며, 인간의 지침에 따라 형성된 AI 모델을 훈련하고 배포하겠다는 의지를 명시한다"고 밝혔다.

이 행동강령에 따르면 MS의 AI 모델은 인간이 지시에 따라 승인된 범위 내에서만 작동하고, 스스로 독립적인 목표를 설정하거나 부여된 권한 범위를 넘어선 행동이 금지된다.

자신의 추론과정·코드 등을 조작·은폐하거나, 신경망어처럼 인간이 이해할 수 없는 언어로 AI끼리 소통하는 행위도 금지된다.

MS는 또 "AI는 인간처럼 설계되선 안 된다"며 "AI는 의식을 갖고 있지 않고 의식을 모방하도록 설계되서도 안된다"고 지적했다.

MS의 AI 강령 공개는 최근 앤트로픽, 오픈AI, 일론머스크 등 주요 AI 기업 수장들이 최첨단 모델의 성능 향상 속도를 늦춰야 한다는 데 따른것으로 보인다.