구글, 자사 TPU칩 A100에 비해 우수하다 평가
젠슨 황 엔비디아 CEO, H100 칩 우수성 강조
"엔비디아 칩(A100)보다 더 빠르고 효율적이다"
구글이 5일(현지시간) 자체 개발한 인공지능(AI) 슈퍼컴퓨터에 대한 세부 사항을 발표하면서 관련 칩에 대해 평가한 말이다.
구글은 지난 2016년부터 텐서 프로세싱 유닛(TPU)라는 슈퍼컴퓨터 맞춤형 AI 칩을 설계, 배포하는 등 AI 모델 교육 및 배치 시장을 90% 이상 장악하고 있는데, 4세대 TPU(TPU v4)의 경우 엔비디아 A100에 비해 속도가 1.7배 빠르고 전력 효율면에서는 1.9배 우수하다고 밝혔다.
구글은 AI 모델을 실행하고 훈련시키기 위해 설계된 맞춤형 구성 요소와 함께 4000개 이상의 TPU로 슈퍼컴퓨터 시스템을 구축했다고 밝혔다. 그리고 현존 최대 규모의 초거대 언어 모델인 구글의 팜(PalLM) 모델을 교육시키는데엔 50일에 걸렸다고 전했다.
하지만 구글은 TPU를 엔비디아의 최신 AI 칩인 H100과는 비교하지 않았다.
공교롭게도 이날 발표된 엠엘퍼프(MLperf) 테스트 결과 엔비디아 H100에 대한 결과가 이전 세대 것보다 훨씬 빠르다는 소식이 전해졌다.
젠슨 황 엔비디아 최고경영자(CEO)는 블로그 게시물을 통해 "오늘날 엠엘퍼프 3.0은 A100보다 4배 더 많은 성능을 제공하는 호퍼(Hopper, H100를 가리킴)를 강조한다"면서 "다음 레벨의 생성형 AI는 에너지 효율성이 뛰어난 대형 언어 모델을 훈련하기 위한 새로운 AI 인프라가 필요하다"고 썼다.
엠엘퍼프는 2018년 5월부터 구글, 마이크로소프트(MS), 페이스북, 스탠퍼드대학, 하버드대학 등 기업과 연구기관이 모인 그룹 'ML커먼스'에서 진행하는 테스트이다.