|스마트투데이=김나연 기자| 인공지능(AI) 투자 경쟁에서 그래픽처리장치(GPU)에 밀려 주목받지 못했던 중앙처리장치(CPU)가 새로운 성장 동력으로 떠오르고 있다. AMD는 에이전틱 AI 확산을 근거로 2030년 CPU 시장 규모가 2000억달러를 넘어설 것으로 전망했다. 엔비디아와 Arm도 에이전틱 AI 전용 CPU를 출시하며 시장 선점에 나섰다.
15일 반도체업계에 따르면 리사 수 AMD 최고경영자(CEO)는 지난 12일 미국 새너제이에서 열린 오픈컴퓨트프로젝트(OCP) 글로벌 서밋에서 향후 4~5년간 CPU 시장이 연평균 약 50% 성장해 2030년 2000억달러를 넘어설 것으로 내다봤다. 데이터센터 AI 가속기 시장도 2030년 약 1조5000억달러에 근접할 것으로 예상했다.
리사 수 CEO는 지난 9개월 동안 CPU의 전체 시장 규모 전망을 세 차례 상향했다고 밝혔다. AI가 질문에 답변하는 생성형 AI에서 스스로 작업을 계획하고 실행하는 에이전틱 AI로 발전하면서 CPU 연산 수요가 예상보다 빠르게 증가하고 있다는 설명이다.
리사 수 CEO는 "올해는 추론의 해"라며 AI 연산 시장에서 추론이 차지하는 비중이 약 60%에 달할 것으로 예상했다. 이어 최근에는 에이전틱 AI 관련 작업이 본격적으로 급증하고 있다고 강조했다.
GPU가 AI 모델 계산할 때, CPU는 에이전트의 작업 수행
CPU 수요가 급증하는 배경에는 에이전틱 AI의 작동 방식이 있다. 기존 생성형 AI는 사용자가 질문을 입력하면 학습된 모델을 바탕으로 답변을 생성하는 구조였다. 에이전틱 AI는 사용자의 목표를 달성하기 위해 스스로 작업을 계획하고 외부 프로그램을 실행한다. 여러 AI 에이전트를 동시에 호출해 복잡한 업무를 처리하기도 한다.
이 과정에서 CPU의 역할이 커진다. GPU는 방대한 데이터를 동시에 계산하는 AI 모델의 추론 작업에 특화돼 있다. CPU는 AI 모델이 요청한 프로그램을 실행하고, 데이터를 검색하며, 다른 프로그램과 결과를 주고받는 작업을 담당한다.
가령 사용자가 AI에 특정 기업의 분석 보고서 작성을 지시하면 AI 에이전트는 공시를 검색하고 필요한 자료를 내려받는다. 이어 데이터를 분석하고 보고서 파일을 작성한다. 이 과정에서 AI 모델의 추론은 주로 GPU가, 프로그램 실행과 작업 관리는 CPU가 처리한다. 에이전트가 여러 작업을 동시에 수행하면 CPU에 요구되는 연산량도 증가한다.
매트 킴볼 무어 인사이트 앤 스트래티지(Moor Insights & Strategy) 부사장은 IEEE 스펙트럼과의 인터뷰에서 "AI 작업에서 에이전트 100개가 생성된다고 가정하자"며 "이를 기업 전체로 확대하면 수만 개, 수십만 개, 수백만 개의 에이전트로 늘어날 수 있다"고 설명했다. AI 에이전트가 하위 에이전트를 생성하고 외부 프로그램을 호출하면서 CPU 연산 수요가 폭발적으로 증가할 수 있다는 의미다. (spectrum.ieee.org)
실제 클라우드 서비스에서도 CPU 자원 부족 현상이 나타나고 있다. 미국 전기전자공학자협회(IEEE)가 발행하는 기술 전문지 IEEE 스펙트럼은 AWS가 AI 워크로드 급증으로 CPU 서버 자원 확보에 어려움을 겪고 있다고 보도했다. CPU 서버의 가용 용량을 확보하기 위한 대기시간이 급증하자 내부 엔지니어들에게 CPU 사용량을 절약하도록 지시했다는 내용이다.
AMD의 마두 랑가라잔 부사장은 IEEE 스펙트럼과의 인터뷰에서 자체 시험 결과 실제 에이전틱 AI 작업 흐름의 8개 단계 중 7개가 전적으로 CPU에서 실행됐다고 설명했다.
AI 에이전트가 증가하면 CPU 부족이 GPU의 처리 효율까지 떨어뜨릴 수 있다는 연구 결과도 나왔다. 미국 조지아공대 연구진은 CPU 코어가 부족하면 GPU에 작업을 제때 전달하지 못해 GPU가 대기하는 현상을 확인했다. 특정 실험에서는 CPU 코어를 충분히 확보하자 AI 모델이 첫 응답을 생성하기까지 걸리는 시간이 약 1.5~7배 개선됐다.
AI 에이전트가 외부 프로그램의 실행 결과를 받아들일 때마다 이를 AI 모델이 처리할 수 있는 토큰으로 변환하는 작업도 CPU에 부담을 준다. 작업이 길어지고 프로그램 호출 횟수가 증가할수록 이러한 처리 과정이 반복된다.
IEEE 스펙트럼은 에이전틱 AI 확산으로 CPU가 AI 시스템의 새로운 성능 병목으로 부상했다고 분석했다. 이미 구축한 고가의 GPU를 효율적으로 활용하기 위해서도 충분한 CPU 연산 자원 확보가 중요해졌다는 의미다.
엔비디아도 뛰어든 CPU 시장…빅테크 투자 확대
CPU 수요 확대는 글로벌 반도체 기업들의 신제품 개발과 빅테크의 대규모 도입 계약으로 이어지고 있다.
GPU 시장을 주도하는 엔비디아는 지난 3월 에이전틱 AI에 특화한 차세대 CPU '베라(Vera)'를 공개했다. 자체 설계한 88개 코어를 탑재했으며, AI 에이전트의 코드 실행과 데이터 처리, 작업 조율 등에 최적화했다.
젠슨 황 엔비디아 CEO는 베라 CPU 출시 당시 "CPU는 더 이상 AI 모델을 단순히 보조하지 않는다"며 "이제는 모델을 움직이는 주체다"라고 강조했다. 에이전틱 AI가 확산하면서 여러 작업을 조율하고 실행하는 CPU가 AI 시스템의 핵심 요소로 부상했다는 설명이다. (investor.nvidia.com)
엔비디아는 베라 CPU가 기존 범용 CPU 대비 최대 50% 빠른 처리속도와 2배 높은 에너지 효율을 제공한다고 설명했다. 회사 자체 성능 시험을 기준으로 한 수치다.
베라 CPU는 엔비디아의 차세대 AI 플랫폼인 베라 루빈에도 탑재된다. 엔비디아는 CPU 256개를 장착한 전용 서버 랙도 개발했다. 메타와 오라클, 알리바바 클라우드 등이 베라 CPU 도입을 위해 협력하고 있다.
AMD도 CPU 중심의 에이전틱 AI 인프라 구축에 나섰다. 지난 12일 OCP 글로벌 서밋에서 에이전틱 AI 전용 서버 랙 설계인 '헬리온(Helion)'을 공개했다.
헬리온은 CPU만으로 구성한 서버 랙과 CPU·GPU를 결합한 통합형 랙을 지원한다. CPU 전용 구성에는 최대 3만2768개 코어를 탑재할 수 있다. AI 에이전트의 작업 실행과 모델 추론을 서로 다른 서버에서 처리할 수 있도록 설계한 것이 특징이다. AMD는 협력사들과 시스템을 개발하고 있으며 오는 11월 공급을 시작할 계획이다.
인텔 역시 같은 행사에서 에이전틱 AI용 제온(Xeon) 서버 설계를 공개했다. 일부 제온6+ 기반 설계는 랙 하나에 4만6000개 이상의 CPU 코어를 탑재할 수 있도록 구성됐다. 인텔은 에이전틱 AI의 작업 조율과 데이터 처리, 외부 프로그램 실행에서 CPU의 역할이 확대되고 있다고 설명했다.
CPU 설계자산 시장을 주도해 온 Arm도 지난 3월 자체 설계한 데이터센터용 'AGI CPU'를 출시했다. 메타와 공동 개발한 제품으로 에이전틱 AI 인프라를 겨냥했다. 반도체 설계자산을 제공하던 Arm이 완제품 CPU 시장에 직접 진출한 것이다.
실제 대규모 도입 계약도 체결되고 있다. 메타는 지난 4월 AWS가 자체 개발한 그라비톤(Graviton) CPU를 대규모로 도입하기로 했다. 초기 도입 규모는 수천만 개 CPU 코어에 달한다.
메타는 계약 배경으로 에이전틱 AI의 코드 생성과 실시간 추론, 검색, 복잡한 작업 조율 등에 필요한 CPU 연산 수요 증가를 제시했다. AWS가 개발한 그라비톤5는 192개 코어를 탑재한 CPU로, 메타는 이를 활용해 대규모 AI 서비스를 운영할 계획이다.
산토시 자나르단 메타 인프라 총괄은 "AI 인프라를 확대하는 과정에서 연산 자원의 다변화는 전략적으로 중요하다"며 그라비톤 도입을 통해 에이전틱 AI의 CPU 집약적 작업을 효율적으로 처리할 수 있을 것으로 기대했다.
AMD의 CPU 시장 성장 전망이 현실화할 경우 글로벌 반도체 산업의 투자 범위도 확대될 것으로 예상된다. CPU 제조사들은 에이전틱 AI에 특화한 제품 개발과 서버 집적도 향상에 나서고 있다. 빅테크 기업들은 자체 CPU 개발과 외부 제품 도입을 병행하며 연산 능력 확보에 속도를 내고 있다.
에이전틱 AI가 확산할수록 데이터센터에는 AI 모델을 실행하는 GPU와 함께 에이전트의 작업을 처리하는 CPU 인프라도 대규모로 필요해질 전망이다. CPU가 다시 AI 반도체 산업의 핵심 투자 대상으로 주목받는 배경이다.
댓글 (0)
댓글 작성
댓글을 작성하려면 로그인이 필요합니다.
로그인하기