AI 모델 훈련 늦춰져도…반도체 업계 "추론이 HBM·DRAM 새 수요처"

|스마트투데이=김나연 기자| 주요 프론티어 인공지능(AI) 개발사들이 모델 안전성 검증을 이유로 속도 조절에 나서고 있지만 반도체 업계에서는 고대역폭메모리(HBM)를 비롯한 AI 메모리 수요 기반이 흔들리지 않을 것으로 보고 있다. 신규 모델을 개발하는 훈련(Training) 속도가 둔화하더라도 실제 서비스 단계에서 쓰이는 추론(Inference) 연산과 에이전트 AI 수요가 급증하면서 전체 메모리 사용량을 끌어올리고 있기 때문이다.

최근 오픈AI와 앤트로픽 등 대표적인 AI 개발사들이 안전 기준 충족을 이유로 개발 일정 조정을 시사하면서 시장에서는 대규모 그래픽처리장치(GPU) 클러스터 구축과 HBM 수요 증가세가 꺾일 수 있다는 우려가 제기됐다. 오픈AI는 차세대 모델의 사이버보안 위험을 점검하는 과정에서 모델 스케일링 속도를 일시적으로 낮췄다고 공개하며 "필요한 안전 기준을 충족할 시간을 확보하기 위해 스케일링 속도를 일시적으로 늦췄다"고 설명했다. 앤트로픽 역시 안전성 검증을 위한 충분한 시간 확보 필요성을 제기해왔다.

그러나 반도체 업계에서는 모델 훈련 수요와 실제 서비스 활용에 따른 추론 수요를 분리해서 봐야 한다고 분석한다. 특히 사용자의 명령을 받아 여러 단계의 작업을 자율적으로 수행하는 에이전트 AI는 모델을 반복 호출한다. 이에 따라 초대형 모델 개발 빈도가 줄어들더라도 서비스 이용량 증가에 맞춰 전체 연산 처리량은 가파르게 늘어나는 구조다.

짐 슈나이더 골드만삭스 리서치 미국 반도체·IT서비스 담당 수석 애널리스트는 "추론에서 토큰당 연산 비용은 반도체 기술 발전으로 매년 60~70%씩 낮아지고 있다"고 말했다. 슈나이더 수석 애널리스트는 소비자와 기업의 AI 에이전트 도입이 확대되면서 월간 토큰 처리량이 2026년부터 2030년까지 24배 늘어 12경개에 달할 것으로 내다봤다. 동시에 추론 과정의 토큰당 연산 비용은 매년 60~70% 낮아질 것으로 전망했다. AI 에이전트 확산 속도를 공급이 따라가지 못해 향후 12개월 이상 반도체 공급 부족이 이어질 수 있다는 전망도 함께 제시했다.

추론 연산의 확장은 HBM과 고용량 서버 DRAM 수요를 직접적으로 견인한다. AI 가속기가 추론을 수행할 때 모델 매개변수를 메모리에서 지속적으로 불러와야 하고 긴 문맥을 유지하기 위한 캐시 메모리 공간도 대규모로 필요하기 때문이다. 숀 김 모건스탠리 유럽·아시아 기술팀장은 "최신 AI 칩은 과거 세대보다 7.2배 많은 HBM을 사용하며 전체 시스템 기준으로는 약 65배 많다"고 설명했다. 김 팀장은 "서버가 전체 DRAM 수요에서 차지하는 비중이 2023년 37%에서 2028년 59%로 높아질 것으로 본다"고 덧붙였다.

삼성전자와 SK하이닉스의 공급 현장에서도 수요 둔화 징후는 나타나지 않고 있다. SK하이닉스는 2분기 실적 발표에서 주요 전략 고객을 포함한 약 10개 기업과 장기공급계약(LTA)을 체결했으며 추가 공급 요청도 지속되고 있다고 밝혔다. 삼성전자 역시 하반기 에이전트 AI 확산에 따라 서버 DRAM과 기업용 SSD, HBM 수요가 견조하게 늘어날 것으로 전망했다. 비벡 아리아 뱅크오브아메리카 애널리스트는 최근의 안전성 논란에 대해 AI CAPEX가 2030년까지 3배 늘어 3조달러를 넘어설 수 있는 구조적 성장세에 비하면 단순한 잡음에 불과하다고 진단했다.

전체 AI 업계가 장기간 개발 속도를 늦출 가능성도 낮다는 평가다. 메타와 엔비디아 등에서는 업계 차원의 일률적인 속도 조절에 반대하는 목소리도 나온다. 트럼프 미국 대통령도 중국과의 AI 경쟁을 이유로 개발 감속론에 부정적인 입장을 밝혔다. 매디슨 레자이 번스타인 애널리스트는 "현 단계에서 이는 CAPEX를 줄이거나 모델 훈련을 중단하자는 요구가 아니다"고 선을 그었다.

이에 따라 개발 감속론에 민감하게 반응했던 시장도 점차 안정을 되찾고 있다. 지난 14일 유가증권시장에서 삼성전자가 4.1%, SK하이닉스가 6.4% 급락하고 미국 증시에서 엔비디아가 3.4% 하락하는 등 글로벌 반도체주가 일제히 출렁였다. 그러나 15일 삼성전자와 SK하이닉스가 각각 0.2%, 0.4% 하락하며 숨고르기에 들어간 뒤 16일에는 삼성전자가 2.0% 오른 25만3500원, SK하이닉스가 4.1% 상승한 175만9000원에 거래를 마쳤다. 간밤 미국 증시에서도 엔비디아가 0.6% 오르고 필라델피아반도체지수가 0.4% 상승하며 매도세가 진정됐다.

다만 모델 훈련 감속이 장기화될 경우 빅테크의 설비투자 집행 속도와 메모리 업체의 대규모 증설 주기 사이에 시차가 발생할 수 있다는 점은 중장기 변수로 지목된다. 길 루리아 D.A.데이비슨 기술리서치 대표는 AI 발전 속도가 둔화할 경우 하이퍼스케일러들이 "데이터센터 건설을 멈추고 이미 갖고 있는 것을 소화하면 된다"며 기존 설비 활용에 치중할 가능성을 제기했다. 차루 차나나 삭소마켓츠 수석 투자전략가 역시 "메모리를 포함한 HBM은 신규 생산능력이 수요보다 먼저 시장에 들어올 경우 공급과잉 위험에 직면할 수 있다"고 설명했다.