구글, MS, OpenAI 등 AI 개발 촉진 위한 포럼 결성 발표

구글, 마이크로소프트, OpenAI, 앤스로픽(Anthropic) 등 4개 회사는 안전한 AI 개발 촉진을 위한 포럼 결성을 발표했다.

세계 최고의 인공 지능 회사인 이들 4개 회사는 최첨단 AI 개발을 규제하는 방법에 대해 정책 입안자 및 연구원과 협력하기 위해 새로운 단체를 출범시킨 것이다.

프론티어 모델 포럼(Frontier Model Forum)으로 알려진 새로운 조직은 임무가 AI 안전을 위한 모범 사례를 개발하고, AI 위험에 대한 연구를 촉진하며, 정부 및 시민 사회와 정보를 공개적으로 공유하는 것 등이라고 밝혔다.

26일의 발표는 올 가을 미국과 유럽 연합 의원들이 AI 산업을 위한 구속력 있는 법안을 마련하기에 앞서 AI 개발자들이 기술에 대한 자발적 보호책을 중심으로 어떻게 연합하고 있는지를 보여주는 것이다.

포럼 구성 소식은 아마존 및 메타를 포함한 다른 여러 회사와 함께 4개의 AI 회사가 바이든 행정부에 AI 시스템을 대중에게 공개하기 전에 제3자 테스트를 거치겠다고 약속한 후에 나온 것이다.

가장 진보된 AI 모델을 설계하는 다른 회사에도 열려 있는 업계 주도 포럼은 공개적으로 액세스할 수 있는 라이브러리를 통해 기술 평가 및 벤치마크를 제공할 계획이라고 포럼은 공동 성명에서 밝혔다.

브래드 스미스(Brad Smith) 마이크로소프트 회장은 “AI 기술을 만드는 회사는 그것이 안전하고 보안이 유지되며, 인간의 통제하에 있는지 확인해야 할 책임이 있다”고 말했다.

"이 이니셔티브는 AI를 책임감 있게 발전시키고 문제를 해결하여 모든 인류에게 혜택을 줄 수 있도록 하는 중요한 단계이다."

이 발표는 앤스트로픽(Anthropic) CEO 다리오 아모데이(Dario Amodei)와 AI 선구자 요슈아 벤지오(Yoshua Bengio)와 같은 AI 전문가들이 제한 없는 AI 개발로 인해 발생할 수 있는 심각하고, 심지어 '재앙적인' 사회적 위험에 대해 국회의원들에게 경고한 지 하루 만에 나온 것이다.

아모데이는 서면 증언에서 "특히 AI 시스템이 사이버 보안, 핵 기술, 화학, 특히 생물학 영역에서 대규모로 오용될 수 있다는 점에 우려한다"고 말했다.

아모데이는 2~3년 안에 AI가 악의적인 행위자에게 기능적인 생물학적 무기를 만드는 데 도움을 줄 수 있을 만큼 강력해질 수 있다고 덧붙였다.

주요 피해를 방지하는 가장 좋은 방법은 AI 시스템에 대한 액세스를 제한하는 것이라고 벤지오는 상원 패널에 말했다.