구글의 AI챗봇 바드의 실수...거짓정보 양산 우려 키웠다

"제임스 웹 우주 망원경(JWST)을 통해 발견된 새로운 것들에 대해 내가 9살짜리 아이에게 말할 수 있는 것은 무엇일까?"

위의 질문에 구글의 인공지능(AI) 챗봇 바드는 "JWST는 우리 태양계 밖에 있는 행성의 첫 번째 사진을 찍었다"라고 답했다. 8일(현지시간) 구글은 트위터를 통해 이를 공유했다.  

Bard is an experimental conversational AI service, powered by LaMDA. Built using our large language models and drawing on information from the web, it’s a launchpad for curiosity and can help simplify complex topics → https://t.co/fSp531xKy3 pic.twitter.com/JecHXVmt8l

— Google (@Google) February 6, 2023

그러나 미국항공우주국(NASA)에 따르면, 이 답은 틀렸다. 외계 행성 또는 태양계 너머의 행성을 보여주는 첫 번째 이미지는 지난 2004년 유럽 남방천문대(ESO)의 초대형 망원경(VLT)이 찍었다. 

트위터를 통해 많은 과학자들이 바드의 답변이 틀렸다는 걸 지적했다. 

UC 산타크루즈 캘리포니아대학 천문대의 브루스 매킨토시 소장도 실수를 지적했다. "JWST가 발사되기 14년 전에 외계 행성을 촬영한 사람으로서 말하자면, 더 좋은 예를 찾아야 할 것 같다"라고 했다. 

바드의 실수는 챗GPT의 선풍적인 인기로 조급해진 구글의 입장을 묘하게 보여준다는 지적이 나오기도 했다.  

아직 AI 챗봇을 신뢰하긴 어렵다는 판단에 시장도 부정적으로 반응했다. 구글 주가는 한때 8%대까지 빠졌고 시가총액 1000억달러가 증발했다. 

챗GPT와 마찬가지로 바드 역시 사용자 프롬프트에 대한 강력한 응답을 생성하기 위해 온라인에서 방대한 데이터에 대해 훈련된 대규모 언어 모델을 기반으로 한다. 그러나 전문가들은 이런 도구들이 부정확한 정보를 퍼뜨릴 가능성이 있다고 이미 경고해 왔다. 

구글 대변인은 이번 오류와 관련, "우리가 이번 주부터 신뢰할 수 있는 테스터들에게 바드를 공개할 것"이라면서 "엄격한 테스트 과정의 중요성을 강조했다"고 말했다. 그는 "외부 피드백과 자체 내부 테스트를 결합해 바드의 응답이 실제 정보의 품질, 안전 및 근거에 대한 높은 기준을 충족하도록 할 것"이라고 강조했다. 

IT 매체 더버지는 그러나 "AI 챗봇의 주요 문제는 잘못된 정보를 사실로 자신 있게 진술하는 경향"이라면서 "시스템은 본질적으로 자동 완성 시스템이기 때문에 종종 환각을 일으켜 정보를 구성한다"고 지적했다. 

질문에 답하기 위해 입증된 사실의 데이터베이스를 쿼리하는 대신, 그들은 텍스트의 거대한 말뭉치에 대해 훈련을 받고 패턴을 분석해 주어진 문장에서 다음 단어를 결정한다. 다시 말해 이는 결정론적이지 않고 확률적이다. 이를 두고 한 저명한 AI 교수는 AI 챗봇을 '엉터리 발전기'라 이름붙이기도 했다. 

더버지는 "물론 인터넷은 이미 거짓이고 오해의 소지가 있는 정보들로 가득 차 있지만, 이 문제는 검색 엔진으로 이러한 도구들을 사용하려는 MS와 구글의 열망에 의해 더욱 악화되고 있다"면서 "챗봇의 대답은 모든 것을 아는 기계의 권위를 차지하게 된다"고 비판했다.