챗GPT로 불 댕긴 생성형 AI '붐'…챗봇 활용 규칙 제정 잇따라

민간의 비즈니스 영역은 물론 정부와 지자체를 비롯한 공공 부문에서도 생성 AI 활용을 늘리고 있다. 공공 부문에서 특히 시정부는 안전하고 효과적인 AI 사용을 위해 어떤 규제가 필요한지를 고민하고 있다. CNN, 로이터통신 등 외신들에 따르면 미국 여러 시정부가 생성 AI에 대한 지침을 발표하고 있어 주목된다. 

뉴욕시는 최근 생성 AI에 대한 지침을 발표했다. 에릭 아담스 시장은 미국 주요 도시 중 최초로 ‘뉴욕시 AI 실행 계획’을 발표했다. 지난달 발표한 계획에서 아담스는 AI가 “우리 시대의 가장 영향력 있는 기술 발전 중 하나가 될 것”이라고 말하면서도 정부에 대해서는 “위험을 인식할 것”도 아울러 경고했다.

뉴욕시 혁신국은 AI가 정부 운영을 개선하고 800만 시민에게 서비스와 혜택을 늘릴 수 있을 것이라고 밝혔다. 뉴욕시는 이미 AI 기술을 다방면에 적용하고 있다. 시 기관은 이미 공중 보건 및 사이버 탄력성 프로젝트에서 AI를 사용하고 있으며, 시는 수년 동안 AI에서 사용하는 알고리즘에 대한 공개 디렉토리를 발행해 왔다.

새로 발표된 실행 계획에는 2025년까지 단기, 중기 및 장기 목표가 포함된 7가지 정책이 포함돼 있다. 시정부 부서 내 AI 지식 구축, 책임 있는 AI 조달 표준 개발, 기술 변화에 따른 유지 및 업데이트도 보장하도록 했다. 

시는 내년 중 AI 운영위원회를 만들고 AI 도구에 대한 대중의 인식을 확산하는 것을 목표로 하고 있다. 또 신뢰성, 공정성, 편견, 책임, 투명성, 데이터 개인정보 보호, 사이버 보안 및 지속 가능성 등 AI 위험 평가 프로세스도 만든다는 계획이다. 

다른 도시들도 비슷한 목표를 가진 지침이나 정책을 발표했다. 시애틀은 11월 중순, 생성 AI 사용에 대한 정책을 발표했다. 시정부 보도 자료에는 텍스트, 이미지, 비디오 또는 오디오를 생성할 수 있는 AI 시스템이 도시의 많은 서비스를 지원할 것이라고 명시했다. 새로운 정책은 생성 AI를 활용하는 소프트웨어 서비스의 적용과 사용에 대한 심사 프로세스를 만들고, 지적 재산, AI로 생성된 콘텐츠의 속성 및 민감한 데이터 보호에 대한 시정부의 실사를 요구하고 있다.

애리조나주 템피도 다양한 도구를 채택하는 데 초점을 맞춘 AI 정책을 승인했다. 시는 정부 운영에 AI를 사용하지는 않았지만, 발표한 AI 정책에서는 생성 AI 챗봇을 채용 지원서 자동 검토에 활용하는 등의 사용 가능성을 언급하고 있다. 특히 시정부는 공무원에게 “AI 기술이 해결할 수 있는 문제를 명확하게 정의할 것”도 요구하고 있다.

캘리포니아 실리콘밸리의 중심도시 새너제이는 직원들이 시정부 보고서에 생성 AI 사용을 의무적으로 기록하도록 하는 규정을 포함한 생성 AI 지침을 발표했다.

도시의 생성 AI 사용 검토가 늘면서 지자체 지도자를 위한 새로운 자원도 만들어지고 있다. 지난 10월 블룸버그 자선재단(Bloomberg Philanthropies)과 존스홉킨스 대학은 정부 이메일 주소가 있는 사람이라면 누구나 사용할 수 있는 디지털 플랫폼 ‘시티AI 커넥트(City AI Connect)’를 출시했다. 블룸버그 자선재단이 전 세계 80개 도시의 시장들을 대상으로 실시한 조사에 따르면 75% 이상이 생성 AI 도구에 관심이 있다고 했다. 그러나 조사 대상 도시 중 단 2%만이 AI 도구를 정부 업무에 사용하기 시작한 것으로 나타났다.

연구에 따르면 생성 AI는 도시가 악천후를 견디고 비상 상황에 대응하며 서류 처리 속도를 높이는 데 도움이 되는 것으로 나타났다. 자선재단 설문 조사에 따르면 시장들은 교통 및 운송 개선을 위해 AI를 사용하는 것에 가장 관심이 많으며 인프라, 공공 안전, 환경 및 기후 프로젝트, 교육이 그 뒤를 이었다.

보스턴 최고정보책임자(CIO) 산티아고 가르세스가 이끄는 혁신 및 기술부서는 이미 AI 도구가 널리 보급된 현실, 그리고 사용자가 일상 업무에 광범위하게 적용하고 있다는 현실을 인정해 보스턴 시에서의 생성 AI 사용에 대한 임시 지침을 발표했다. 가르세스는 다만 AI 기술이 피싱 공격이나 유권자의 가짜 편지와 같은 위험성도 인지하고, 임시 지침에 투명성, 책임, 존중, 혁신 및 위험 관리와 같은 몇 가지 핵심 원칙도 포함시켰다. 

시는 또한 시 직원이 AI를 활용할 때 지켜야 할 세 가지 주요 규칙도 발표했다. 첫째는 AI로 생성된 모든 콘텐츠의 사실 여부를 확인할 것. 챗봇이 문장을 생성할 수는 있지만 오래되었거나 조작된 정보를 생성할 수도 있기 때문이다. 둘째는 언제 어떤 모델의 AI를 사용했는지를 공개해야 한다. 마지막으로는 데이터가 AI를 지원하는 회사와 공유될 가능성이 높으므로 민감한 정보나 개인 정보는 생성 AI 프롬프트에 입력하지 말라는 것이다. 

어느 조직이든 생성 AI가 새로이 만들어 낼 가능성과 사회에 초래할 위험에 대해 인식하고 있다. 문제는 가능성은 높이고 위험은 줄이는 방법이다. 시정부들이 대책을 마련하는 것도 그 고민에서 나온 최소한의 해법으로 보인다.