'신상' 대신 '구형' HBM 쓴다는 엔비디아...'단가 하락 vs 물량 확대'

|스마트투데이=김나연 기자| 엔비디아가 차세대 인공지능(AI) 가속기에 탑재할 고대역폭메모리(HBM) 사양을 낮추는 방안을 검토하면서 시장의 관심이 쏠리고 있다. 고성능 제품 채택 지연으로 메모리 평균판매가격(ASP) 상승세가 둔화할 수 있다는 우려와 함께, 공급 부족에 대응해 전체 칩 출하량을 늘리기 위한 조정이라는 분석이 맞서는 분위기다.

28일 반도체와 금융투자 업계에 따르면 엔비디아는 차세대 AI 가속기 루빈 울트라(Rubin Ultra)에 탑재될 HBM 구성을 기존 12단 HBM4E 중심에서 8단 HBM4E와 8단·12단 HBM4까지 넓혀 검토 중인 것으로 알려졌다. 시장조사업체 트렌드포스는 8단 제품이 2027년 HBM 출하의 주력으로 부상할 것으로 내다봤다. JP모건 역시 16단 HBM의 본격적인 도입 시점을 2029년 이후로 예상하며 칩을 여러 층으로 높게 쌓은 고단 적층 제품으로의 전환 속도가 완만해질 것으로 분석했다.

고사양 채택 늦어지면 ASP 상승세도 둔화

HBM은 여러 장의 D램을 수직으로 쌓아 데이터 처리 속도와 용량을 높인 메모리다. 같은 세대 제품에서는 8단보다 12단, 12단보다 16단처럼 높이 쌓을수록 더 많은 용량을 담고 빠른 속도를 낸다. HBM4E는 HBM4의 성능과 전력 효율 등을 개선한 확장 규격이다.

증권가에서는 삼성전자와 SK하이닉스 등 메모리 제조사가 HBM을 비롯한 고부가 메모리 비중을 확대해 수익성을 높여온 점에 주목하고 있다. 차세대 고사양 제품 채택이 늦어지면 고부가 제품 중심의 수익 구조 개선 속도 역시 늦춰질 수 있다는 관측이다. 가속기 한 대에 탑재되는 메모리 용량이 줄어들 경우 완제품 출하량이 늘어나더라도 개별 가속기에서 발생하는 메모리 매출은 기존 기대치를 밑돌 수 있다는 지적이 나온다.

연산 효율화·오프로딩도 HBM 수요 둔화 요인

AI 연산 효율화 기술 역시 메모리 수요 둔화 우려를 뒷받침하는 요인으로 거론된다. AI 모델이 연산에 쓰는 숫자를 세밀하게 표현하지 않고 16비트에서 8비트나 4비트로 낮춰 저장하면 필요한 메모리 용량을 크게 줄일 수 있다. AI가 앞서 처리한 대화나 문맥 정보를 다시 계산하지 않도록 저장해두는 'KV 캐시'도 메모리 절감 대상이다. 엔비디아에 따르면 NVFP4 방식을 적용할 경우 기존 FP8 대비 KV 캐시 메모리 사용량을 최대 50% 줄일 수 있다. 엔비디아가 공개한 주요 AI 모델 벤치마크에서는 기존 방식과 비교한 정확도 손실도 1% 미만으로 나타났다.

접근 빈도가 낮은 데이터를 고성능 솔리드스테이트드라이브(SSD)나 일반 서버 D램으로 옮겨 필요할 때만 불러오는 오프로딩 수요도 커지고 있다. 모든 데이터를 고가의 HBM에 보관하지 않고 역할을 나누는 구조다. 모건스탠리는 "고객의 비용 부담이 문제가 되고 있다"며 미국과 중국의 시스템 업체들이 D램 사용량을 최적화하기 위한 다양한 방안을 논의하고 있다고 짚었다.

강세론 "부족한 HBM 나눠 더 많은 가속기 생산"

반면 이번 사양 조정을 공급 부족에 대응하기 위한 조치로 해석하는 시각도 적지 않다.

HBM은 같은 용량의 범용 D램을 생산할 때보다 더 많은 웨이퍼 생산능력을 사용한다. JP모건은 HBM이 동일한 메모리 용량 기준으로 범용 D램 대비 3배 이상의 다이 페널티를 수반한다고 분석했다. HBM 생산이 늘어날수록 범용 D램에 투입할 수 있는 생산능력도 줄어드는 구조다.

트렌드포스는 2027년 HBM 출하량이 전년 대비 50~60% 늘어나도 수요를 맞추기 어려울 것으로 전망했다. 업계에서는 HBM 생산 확대로 일반 D램 생산 여력까지 줄어드는 상황에서, 가속기 한 개당 HBM 탑재량을 낮춰야 한정된 HBM 공급으로 더 많은 가속기를 완성할 수 있다는 계산이 작용한 것으로 보고 있다. 엔비디아 역시 사양 조정과 관련해 "이러한 최적화를 통해 더 많은 GPU를 만들고 더 많은 AI 시스템을 배치할 수 있다"고 설명한 바 있다.

ASIC 출하 확대에 HBM 가격 전망도 상향

빅테크 기업들의 맞춤형 반도체(ASIC) 출하 증가도 HBM 수요를 지지하는 요인으로 꼽힌다. JP모건은 2027년 엔비디아 시스템 판매량이 15% 증가하는 동안 ASIC 시스템 판매량은 102% 늘어나 전체 HBM 수요에서 ASIC 비중이 48%에 이를 것으로 내다봤다. 비벡 아리아 BofA 애널리스트는 "AI 지출과 수요를 입증하는 궁극적인 지표는 효율화 기술이 아니라 AI 설비투자"라며 효율 개선이 메모리 수요를 줄이기보다 더 큰 AI 모델을 뒷받침할 가능성이 높다고 평가했다.

사양 하향 조정이 HBM 가격 약세로 직결되지는 않을 것이라는 관측도 나온다. 티머시 아르쿠리 UBS 애널리스트는 "디스펙 결과 칩 한 개당 탑재되는 HBM 사용량은 줄어들 수 있지만 공급망 전체에서 유통되는 칩의 수는 늘어날 수 있다"고 설명했다. UBS는 공급 부족을 근거로 2027년 HBM 평균판매가격 상승률 전망치를 기존 67%에서 79%로 상향 조정했다.

업계에서는 메모리 3사의 잇따른 실적 발표가 이번 논쟁의 방향을 가늠할 첫 분수령이 될 것으로 내다보고 있다. 마이크론이 오는 30일(현지시간) 2026회계연도 4분기 실적을 발표하는 데 이어, 삼성전자와 SK하이닉스도 10월 중 3분기 실적을 차례로 공개할 예정이다. S&P글로벌마켓인텔리전스는 “이번 분기 마이크론의 가이던스는 메모리 시장의 향방을 보여주는 중요한 신호가 될 수 있다”고 분석했다.