미국 등 31개국, 군사 AI에 대한 가드레일 설정에 합의

미국 등 31개 국가가 군사 AI에 대한 가드레일 설정에 합의했다고 인터넷 사이트 와이어드가 8일 보도했다.

와이어드의 보도에 따르면 지난 1일 런던 주재 미국 대사관에서 카말라 해리스(Kamala Harris) 미국 부통령은 다양한 AI 계획을 발표하면서 AI의 군사적 사용에 대한 가드레일을 설정하기 위해 31개국이 서명한 선언문을 공개했다.

우크라이나의 하이테크 전쟁과 챗GPT의 성공으로 인해 군사 AI가 잘못되는 것을 방지하는 방법에 대한 새로운 관심이 촉발되었다.

정치인, 하이테크 기업 임원, 연구원 등이 지난 주 영국에 모여 인공 지능의 위험성을 논의했을 때 가장 두드러진 우려 중 하나는 알고리즘이 언젠가는 주인인 인간에게 등을 돌릴 수도 있다는 것이었다.

31개국 선언문은 군사적 목적을 위한 AI 사용을 통제하는 데 진전을 이룬 것이다.

이는 군사 AI가 국제법을 준수하도록 보장하고, 기술을 신중하고 투명하게 개발하며, AI를 사용하는 시스템에서 의도하지 않은 편견을 피하는 것이다.

또 기술을 책임감 있게 개발 및 배포할 수 있는 방법을 지속적으로 논의하기 위해 법적 검토 및 교육을 하도록 서명국에 요구하는 것이다.

선언문에는 “AI의 군사적 활용에 대한 원칙적인 접근 방식에는 위험과 이점에 대한 신중한 고려가 포함되어야 하며, 의도하지 않은 편견과 사고도 최소화해야 한다.”고 명시되어 있다.

또 국가는 시스템이 "의도하지 않은 동작"을 보일 때 연결을 해제하거나 비활성화하는 기능과 같은 군사 AI 시스템에 안전 장치를 구축해야 한다고 적시했다.

이 선언은 법적 구속력은 없지만 군사 AI에 자발적인 가드레일을 부과하는 국가 간 최초의 주요 합의이다.

같은 날 유엔은 치명적인 자율 무기에 대한 심층적인 연구를 요구하고, 그러한 무기에 대한 제한 조건을 설정할 수 있는 새로운 결의안을 총회에서 발표했다.