클로드에 뚫린 오픈AI…클로드 활용한 내부 코드망 침투 확인

|스마트투데이=김나연 기자| 독립 보안 연구진이 경쟁사 앤스로픽의 인공지능(AI) 모델인 클로드를 활용해 오픈AI 내부 소스코드 저장소 시스템에 침투한 사실이 드러났다.

월스트리트저널(WSJ)은 보안업체 헥트론AI 소속 연구진이 오픈AI 직원 계정의 권한을 획득해 회사 비공개 소프트웨어 캐시에 접근했다고 17일(현지시간) 보도했다. 연구진은 오픈AI가 운영하는 버그바운티(보안 취약점 신고 포상제) 프로그램에 참여하는 과정에서 해당 결함을 찾아냈다.

연구진은 지난 7월 23일 오픈AI의 커뮤니티 토론 포럼인 디스코스(Discourse)가 특정 이미지 파일을 처리하는 과정에서 결함이 발생하는 것을 확인했다. 연구진은 보안 전문가용 클로드 오퍼스 4.8 버전에 공격용 코드 작성을 요청했으나 초기에는 실패했다. 하지만 이튿날 공개된 클로드 오퍼스 5가 취약점을 공략하는 코드를 생성해 내면서 침투에 성공했다.

연구진은 생성된 공격 코드로 포럼 호스팅 서버에 접근해 사용자 인증 토큰을 확보했다. 이 토큰 가운데 오픈AI 직원의 계정이 포함돼 있었으며, 챗GPT는 물론 소프트웨어 저장소인 깃허브(GitHub)에서도 유효하게 작동했다.

연구진은 챗GPT 인터페이스를 활용해 오픈AI 알고리즘의 핵심 코드가 담긴 저장소인 모노레포(Monorepo) 내부 파일을 열람했다. 다만 대규모 언어 모델의 핵심 자산인 모델 가중치(Weights) 데이터에는 접근하지 않았다. 연구진은 침투 사실을 입증하기 위해 저장소 문서 파일에 수정 요청(Pull Request)을 보낸 뒤 추가적인 민감 정보 접근을 멈추고 오픈AI에 취약점을 제보했다.

오픈AI는 연구진에 6500달러의 포상금을 지급하고 침투 경로를 차단했다. 오픈AI 측은 "연구진이 우리에게 연락해 발견한 내용을 공유해 준 것에 감사한다"며 "커뮤니티 로그인 토큰 권한을 축소하고 영향을 받은 토큰과 세션을 취소했다"고 밝혔다. 포럼 운영사인 디스코스 역시 제보 당일 보안 조치를 마쳤다.

이번 사례는 AI 도구가 발전하면서 기업 시스템의 방어 난도가 급격히 올라가고 있음을 보여준다. 모한 페다파티 헥트론AI 최고기술책임자(CTO)는 "우리는 중국의 위협 행위자만큼 강력하지 않다"며 "우리는 단지 클로드와 코덱스를 구독하는 세 명에 불과하다"고 전했다. 조슈아 색스 어번던트시큐리티 최고기술책임자(CTO)는 "전 세계 소프트웨어는 보안 버그로 가득 차 있다"며 "지금까지 버그를 모두 발견하지 못한 이유는 작년까지만 해도 이를 찾을 수 있는 전문가가 수천 명에 불과했기 때문"이라며 AI가 해킹의 진입장벽을 낮추고 있다고 진단했다.

그렉 브록먼 오픈AI 사장 겸 공동창업자는 "프로덕션 엔지니어의 25%에게 모든 프로젝트를 중단하고 방어에 집중하라고 지시했다"며 "그리고 여러 심각한 문제를 발견해 수정했다"고 말했다. 샘 올트먼 오픈AI 최고경영자(CEO)를 비롯한 주요 AI 기업 경영진도 최근 기술 발전 속도가 기업의 방어 속도를 앞지르고 있다며 안전 대책 마련을 강조했다.