유엔 사무총장 "AI 관리 위한 국제기구 창설해야"

유엔 사무총장 안토니오 구테흐스(António Guterres)는 '잠재적으로 파국적이고 실존적인 위험'에 직면한 AI를 관리하는 데 도움이 되는 새로운 국제 기구를 창설해야 한다고 밝혔다.

구테흐스 사무총장은 18일 AI 거버넌스에 대해 논의하는 유엔 안전보장이사회의 첫 번째 회의에서 유엔이 AI를 모니터링하고 규제하기 위해 세계적으로 합의된 규칙을 설정해야 한다고 말했다.

유엔이 원자력 사용을 관리하고, 항공 안전을 강화하며, 기후 변화의 도전 과제를 해결하기 위해 필요한 기구를 창설한 것처럼 구테흐스는 유엔이 AI에 대한 국제적 대응을 조정하는 고유한 역할이 있다고 말했다.

그는 "이미 유엔은 휴전을 감시하고 폭력의 패턴을 식별하기 위한 작전에 인공지능을 활용하고 있으며, 유엔 평화유지 및 인도주의적 작전도 악의적인 목적으로 AI를 사용하는 적대 행위자들을 표적으로 하고 있다."고 덧붙였다.

구테흐스는 “테러, 범죄, 국가 목적을 위해 AI 시스템을 악의적으로 사용하면 끔찍한 수준의 사망과 파괴, 광범위한 상처, 상상할 수 없는 규모의 깊은 심리적 손상 등을 초래할 수 있다”고 경고했다.

그는 또 “생성 AI는 규모 면에서 선과 악에 대한 엄청난 잠재력을 가지고 있다. 제작자는 훨씬 더 크고 잠재적으로 파국적이며 실존적인 위험이 앞에 놓여 있다."며 "이러한 위험을 해결하기 위한 조치가 없다면 현재와 미래 세대에 대한 우리의 책임을 방치하는 것이다.”라고 덧붙였다.