KT, 국산 반도체·LLM 결합한 소버린 AI 어플라이언스 출시

|스마트투데이=최아랑 기자| KT는 국산 AI 반도체와 국산 언어모델(LLM)을 하나의 서버에 통합한 기업용 소버린 인공지능(AI) 어플라이언스 'KT NPU LLM Station'을 출시했다고 19일 밝혔다.

KT에 따르면 이 제품은 리벨리온의 NPU 'ATOM-MAX'에 KT의 독자 LLM '믿음 K 2.5 Pro'와 운영 API 플랫폼을 탑재한 일체형 장치다.

고객사 내부에 설치돼 모든 데이터와 연산이 사내에서만 처리되며, 서버·모델·플랫폼이 통합돼 있어 별도 구축 없이 설치 당일부터 사내 문서 기반 질의응답(RAG) 등을 사용할 수 있다.

앞서 리벨리온은 아톰맥스(ATOM-MAX) 카드와 서버가 과학기술정보통신부의 우수연구개발 혁신제품으로 지정됐다고 지난 18일 밝힌 바 있다.

KT는 향후 업무 자동화 에이전트 'K-Claw(가칭)' 등을 순차 탑재하고, 활용 영역을 엣지 데이터센터(Edge DC)로도 확대할 계획이다.