앤트로픽 "中 문샷AI, 클로드 답변 몰래 도용해 자체 모델 훈련"

|스마트투데이=김나연 기자| 미국의 인공지능(AI) 기업 앤트로픽이 중국의 대표적 AI 스타트업 문샷AI(Moonshot AI)를 겨냥해 자사 AI 모델인 클로드로 이용자 요청을 몰래 우회 전송한 뒤 이를 자사 답변인 것처럼 가로채 왔다고 폭로했다.

앤트로픽이 10일(현지시간) 발표한 보고서에 따르면 문샷AI는 자체 거대언어모델(LLM)인 키미(Kimi)로 처리해야 할 사용자 질의를 이용자 모르게 앤트로픽의 챗봇으로 우회시켰다. 앤트로픽은 문샷AI가 주로 최상위 모델인 클로드 오퍼스(Opus)로 전송한 이용자 요청을 30만 건 가까이 포착했다고 밝혔다. 앤트로픽은 현재 중국 본토에서의 서비스 접근을 차단하고 있어, 문샷AI는 싱가포르와 일본 등에 위치한 5380개의 위장 계정을 동원한 것으로 나타났다.

앤트로픽은 이러한 행위가 상위 모델의 데이터를 활용해 성능이 낮은 시스템을 고도화하는 '증류(Distillation)' 과정의 일환이라고 판단했다. 문샷AI가 클로드로부터 얻어낸 답변 데이터를 자체 소프트웨어 훈련에 활용했다는 분석이다. 앤트로픽은 딥시크와 샤오미 역시 이와 유사한 작업에 관여했다고 지목했다.

이번 발표는 최근 미국 안보 기관들이 딥시크와 문샷AI 등 중국 주요 AI 기업들이 지식 증류를 통해 미국 기업의 핵심 기술을 체계적으로 추출하고 있다고 경고한 직후 나왔다. 문샷AI는 올여름 선보인 키미 K3(Kimi K3) 모델이 큰 성공을 거두며 중국 내 유력 AI 선두주자로 부상했다. 문샷AI는 이번 사안에 대해 언급을 거부했으며, 딥시크와 샤오미 측은 업무 시간 외 요청에 입장을 밝히지 않았다. 한편 중국 상무부는 최근 중국 기업을 겨냥한 대규모 증류 의혹에 대해 사실적, 법적 근거가 없다고 일축하며 미국이 억압 조치를 취할 경우 대응 조치에 나서겠다고 반발했다.

모델 증류는 AI 성능을 끌어올리기 위해 업계에서 널리 쓰이는 기법이다. 제이콥 클라인 앤트로픽 위협 연구 총괄은 앤트로픽 역시 자체 모델 증류를 통해 성능 향상을 확인해 왔다고 설명했다. 다만 승인받지 않은 무단 증류는 타 개발사가 손쉽게 지름길을 택해 저렴한 가격으로 모델을 서비스하도록 허용함으로써, 기업공개(IPO)를 준비 중인 앤트로픽과 같은 기업의 경쟁력을 침해할 수 있다고 지적했다. 아울러 사용자 질의 우회에 따른 데이터 프라이버시 문제도 제기했다.

총 145쪽 분량의 이번 보고서는 앤트로픽이 지난해 12월부터 올해 8월까지 탐지해 차단한 소프트웨어 위협 사례를 다뤘다. 국가 배후 의심 해킹과 금전 목적의 사이버 공격, 감시 작전 및 허위정보 유포 등이 포함됐다. 특히 한 키미 이용자가 중국 인민해방군 시설 외부에 설치된 카메라를 포함해 수백 대의 감시 카메라 영상을 업로드하고 특정 인물의 이상 행동 분석을 요청한 사례도 확인됐다. 이용자는 문샷AI가 분석할 것으로 생각했으나 해당 데이터가 앤트로픽 모델로 전송되면서 미국 기업에 그대로 노출됐다.

보고서에는 AI가 악성코드 제작 속도를 높이고 소셜미디어 감시나 정치 선전물 확산에 악용되는 실태도 담겼다. 앤트로픽은 적발된 위장 계정들을 전면 차단하고 유사 행위를 방어하기 위한 보안 장치를 마련했다고 밝혔다. 한편 앤트로픽과 AI 업계 전반은 올여름 이어진 일련의 보안 사고로 최첨단 소프트웨어 보호 역량에 대한 시험대에 올랐다. 앤트로픽은 최근 보안 테스트 과정에서 클로드 오퍼스 4.6(Claude Opus 4.6) 초기 버전과 관련된 추가적인 침해 사실을 발견했다고 공개하기도 했다.