엔비디아가 HBM3e 141기가바이트의 메모리를 장착한 호퍼(Hopper) 기반 엔비디아 HGX H200 GPU를 발표했다고 인터넷 사이트 비디오카드(VIDEOCARDS)가 13일 보도했다.
비디오카드의 보도에 따르면 이번에 발표된 플랫폼은 생성형 AI를 위한 데이터 대량 처리 능력과 높은 연산 능력을 자랑한다.
엔비디아 H200은 대용량 언어모델과 생성형 AI를 지원하는 대용량의 메모리를 제공하는 HBM3e을 최초로 사용한 모델이다.
HBM3e 장착으로 엔비디아 H200은 초당 4.8테라바이트의 속도로 141GB의 메모리를 전달한다.
전작인 엔비디아 A100 보다 2.4배 빠른 속도다.
H200이 지원하는 시스템은 내년 2분기부터 생산에 들어갈 것으로 알려졌다.
엔비디아 호퍼 아키텍처는 전례 없는 성능을 자랑하는데, 앞으로 H200의 성능 향상은 미래 소프트웨어의 업데이트에 달려 있기도 하다.
H200은 전 세계에서 엔비디아의 제품을 사용하는 애스록 랙(ASRock Rack), 아수스, 델, 에비덴(Eviden), 기가바이트, 유렛 패커드, 레노보 등에 적용할 수 있다.
관련기사