CPU 전성기가 돌아온다! AI 에이전트가 뒤바꾼 반도체 산업의 판도

|스마트투데이=우세현 기자| 인공지능(AI) 기술이 고도화되고 복잡한 연산 수요가 급증함에 따라, 그동안 그래픽처리장치(GPU)에 밀려 상대적으로 주목받지 못했던 중앙처리장치(CPU) 시장이 데이터 센터를 중심으로 화려하게 부활하며 글로벌 반도체 업계의 지형도를 뒤흔들고 있다. AI 시대의 초창기에는 단순하고 방대한 데이터를 동시에 병렬로 처리하는 데 특화된 GPU가 시장의 성장을 주도했다면, 이제는 스스로 추론하고 외부 데이터를 검색해 조합하는 이른바 '에이전트 AI' 시대로 접어들면서 전체 시스템을 통제하고 복잡한 명령을 순차적으로 수행하는 CPU의 역할이 그 어느 때보다 중요해진 것이다.

흔히 CPU와 GPU의 차이는 한 명의 대학교수와 여러 명의 초등학생에 비유된다. 미적분과 같은 고난도의 복잡한 문제는 뛰어난 교수(CPU) 한 명이 훨씬 빠르고 정확하게 풀지만, 단순한 사칙연산 수만 개를 동시에 풀어야 할 때는 초등학생(GPU) 여러 명이 나누어 푸는 것이 압도적으로 유리하다.

단순 연산 일꾼 GPU의 한계… 다시 '두뇌' CPU의 시대로

초창기 AI는 단순히 사용자의 질문에 맞춰 학습된 데이터를 단편적으로 쏟아내는 수준이었기에 일꾼 역할인 GPU의 비중이 절대적이었다. 하지만 최신 AI는 답변을 생성하기 위해 실시간으로 외부 데이터베이스나 검색 엔진을 호출하고, 스스로 코드를 검증하며, 여러 도구를 동시다발적으로 활용한다. 이 과정에서 GPU에게 적절한 작업을 지시하고, 데이터를 끌어오며, 결과를 취합하는 통제수 역할의 CPU에 부하가 걸리게 되었다.

결국 전체 작업을 조율하는 CPU의 명령 처리 속도가 GPU의 압도적인 연산 속도를 따라가지 못해 전체 시스템이 지연되는 이른바 '병목 현상(Bottleneck·전체 시스템의 성능이 처리 용량이 부족한 하나의 구성 요소로 인해 제한되는 현상)'이 발생하자, 글로벌 빅테크 기업들은 데이터센터 내 CPU의 비중과 성능을 앞다투어 늘리기 시작했다.

실제로 글로벌 시장조사업체 트렌드포스(TrendForce)의 최근 발표 자료 따르면, 전통적인 AI 데이터센터 인프라에서 1대 8 수준에 불과했던 CPU와 GPU의 탑재 비중은, 다수의 AI가 복합적으로 상호작용하는 추론 및 에이전트 AI 시대로 넘어가면서 향후 1대 1 수준까지 변화될 것으로 전망되었다. AI 워크로드가 학습에서 추론으로 변모하며 CPU의 전략적 가치가 근본적으로 재평가받고 있는 것이다.

이러한 데이터 센터 CPU 시장의 폭발적인 수요 증가 속에서 가장 눈부신 성과를 내고 있는 기업은 단연 AMD다. 과거 서버용 CPU 시장은 경쟁사인 인텔이 99%에 달하는 점유율로 사실상 독점하던 시장이었다. 하지만 최근 시장조사업체 머큐리리서치의 통계에 다르면, AMD는 출하량 기준 점유율을 28%까지 끌어올렸으며, 특히 고부가가치 하이엔드 제품 판매 호조로 매출 기준 점유율은 무려 40%를 차지하는 기염을 토했다.

칩렛 기술로 판 뒤집은 AMD… 독점 붕괴된 인텔의 뼈아픈 실책

AMD가 인텔의 아성을 무너뜨릴 수 있었던 결정적인 무기는 바로 '칩렛(Chiplet)' 기술이다. 칩렛이란 전통적인 방식처럼 하나의 거대한 단일 반도체를 통째로 찍어내는 대신, 작고 특화된 여러 개의 반도체 조각을 레고 블록처럼 이어 붙여 하나의 완성된 칩으로 만드는 기술이다. 칩을 작게 쪼개어 만들면 제조 과정에서 발생하는 불량률을 크게 낮출 수 있어 생산 효율(수율)이 극대화되고, 필요에 따라 다양한 공정을 섞어 쓰며 고객의 요구에 맞춘 맞춤형 칩을 유연하게 설계할 수 있다.

인텔은 과거 AMD의 칩렛 구조를 "데스크톱용 칩을 풀로 붙여 서버용이라고 눈속임해 판다"며 조롱했으나, 정작 기술의 패러다임이 칩렛 중심으로 넘어가자 뒤늦은 대응으로 뼈아픈 기술 격차를 허용하고 말았다. 인텔은 차세대 데이터 센터용 CPU인 '다이아몬드 래피즈'를 준비 중이지만, 출시가 계속 지연되는 데다 하나의 코어가 동시에 여러 작업을 수행하게 해주는 핵심 기능인 '동시 멀티스레딩(SMT)'마저 제외되어 당분간 AMD의 독주를 막기엔 역부족이라는 평가가 지배적이다.

여기에 스마트폰 등 모바일 기기에 주로 쓰이던 전력 효율성 높은 '암(ARM)' 설계 구조를 채택한 CPU들까지 엔비디아와 자체 칩을 개발하는 빅테크 기업들의 선택을 받으며 데이터 센터 시장에 가세해, 전통의 강자였던 인텔의 입지는 더욱 좁아지고 있는 형국이다.

결국 기승전 메모리?

무엇보다 흥미로운 점은 데이터 센터 CPU 시장의 치열한 패권 경쟁과 사양 고도화가 결국 메모리 반도체 산업의 유례없는 초호황으로 직결되고 있다는 사실이다. CPU가 처리해야 할 데이터가 많아지면서 칩 내부에 들어가는 개별 일꾼인 '코어'의 수가 수백 개 단위로 늘어나고 있는데, 일꾼이 많아지면 필연적으로 이들이 데이터를 펼쳐놓고 작업할 공간, 즉 'D램(DRAM)' 메모리 반도체가 기하급수적으로 더 많이 필요해지기 때문이다.

특히 최근에는 AI 열풍과 함께 스포트라이트를 받았던 고대역폭 메모리(HBM)보다 범용 서버용 메모리인 'DDR5'의 수익성이 더욱 돋보이고 있다. 여러 장의 D램을 겹겹이 쌓아 올리는 HBM은 첨단 공정이 필요해 제조 원가가 높고 대규모 장기 계약으로 묶여 있어 단기적인 가격 인상이 어렵다. 반면, CPU와 주로 짝을 이루는 DDR5는 오랜 기간 기술이 다듬어져 제조 원가가 낮은 상태에서 최근 폭발적인 수요에 맞춰 시장 가격이 급등해 기업에 막대한 영업이익률을 안겨주고 있다.

결과적으로 엔비디아의 GPU가 촉발한 1차 AI 인프라 확충 경쟁이 이제는 AMD 중심의 CPU 코어 수 확장 트렌드로 옮겨붙으면서, 삼성전자와 SK하이닉스, 마이크론으로 대표되는 글로벌 메모리 반도체 3사가 이 모든 혁신의 종착지로서 가장 확실한 수혜를 챙기고 있다. AI 연산의 패러다임이 진화하는 거대한 흐름 속에서, 프로세서와 이를 뒷받침하는 메모리 반도체의 톱니바퀴가 쉴 새 없이 맞물려 돌아가며 글로벌 산업계에 새로운 부의 지형도를 그려내고 있다.