"같은 GPU로 4배 더 일한다" LG유플러스, AI 비용 다이어트 나선다

|스마트투데이=최아랑 기자| LG유플러스가 AI 모델 최적화 전문기업 옵트에이아이와 협력해 AI 운영 효율을 개선하는 기술 확보에 나선다. 최근 AI 서비스 확산으로 GPU(그래픽처리장치)와 전력 비용이 급증하면서, 적은 자원으로 높은 성능을 구현하는 기술이 AI 산업의 핵심 경쟁력으로 부상한 데 따른 조치다.

양사가 이번에 공동 연구하는 핵심 분야는 '토큰 최적화'다. 여기서 '토큰(Token)'이란 AI가 사람의 언어를 인식하고 처리하기 위해 잘게 쪼갠 데이터의 기본 단위를 뜻한다. 토큰 최적화 기술을 적용하면 AI 모델의 덩치를 줄이고 불필요한 연산을 덜어낼 수 있어, 동일한 컴퓨팅 자원으로도 훨씬 더 많은 사용자의 질문과 답변을 소화할 수 있게 된다.

이번 협력을 통해 LG유플러스는 실제 AI 서비스 운영 경험을 바탕으로 기술 검증과 적용을 담당하고, 옵트에이아이는 AI 모델을 가볍고 빠르게 구동하기 위한 기술 연구와 개발을 수행한다.

두 회사는 이미 기기 자체에서 AI를 구동하는 온디바이스(On-device) AI 분야에서 협력한 바 있다. 온디바이스 AI란 외부 클라우드 서버를 거치지 않고 스마트폰 등 기기 내부에서 바로 연산을 처리하는 기술로, 처리 속도가 빠르고 보안성이 뛰어난 것이 특징이다. LG유플러스는 자사의 엑사원(EXAONE) 기반 소형언어모델(sLM)에 경량화 기술을 적용하여 스마트폰 내 AI 전용 반도체(NPU)에서 원활하게 구동되도록 만들었다. 그 결과 기존 CPU 구동 방식 대비 전력 소모를 78%, 모델 크기를 82% 줄이는 성과를 거두었다.

이러한 협력을 확장하여 양사는 지난 1일 'Efficient AI 테크 세미나'를 공동 개최했다. 퓨리오사AI, 베슬에이아이(VESSL AI), 한국전자기술연구원(KETI), 한양대학교 등 산·학·연 전문가들이 참석한 가운데 AI 모델 최적화와 반도체 등 운영 효율 향상을 위한 다양한 연구 동향과 사례를 공유했다.

앞으로 두 회사는 연구 범위를 대규모 클라우드 서버의 GPU 환경까지 확대할 방침이다. 이미 현재 진행 중인 초기 연구를 통해, 동일한 GPU에서 처리할 수 있는 토큰량을 기존 대비 최대 4배까지 끌어올리는 결과를 확인했다. LG유플러스는 향후 이 기술을 자사 대규모 AI 인프라 환경에 단계적으로 적용해 나갈 계획이다.

이상엽 LG유플러스 CTO는 “AI 경쟁력은 단순히 성능을 높이는 것을 넘어 같은 자원으로 얼마나 많은 토큰을 효율적으로 처리할 수 있느냐에 달려 있다”며 “옵트에이아이를 비롯한 다양한 파트너들과 협력해 토큰 최적화 기술 연구를 확대하고 실제 서비스에 적용할 수 있는 성과를 만들어 나가겠다”고 말했다.

이재호 옵트에이아이 대표는 “생성형 AI 시대에는 높은 성능만큼이나 운영 효율을 확보하는 것이 중요해지고 있다”며 “LG유플러스와 함께 실제 서비스 환경에서 검증 가능한 AI 최적화 기술을 고도화하고 AI 산업의 효율성 향상에 기여하겠다”고 말했다.