지코어, AI/ML 추론 가속화 인프라 ‘엣지AI’ 발표
"지코어 AI 도입 여정의 모든 단계를 지원해"
지코어 세바 베이너 총괄은 "지코어의 장점은 전 세계 160개의 팝(Pop)이 있다는 것"이라며, "이 팝이라는 엣지 안에 추론용 가속기를 탑재해 월드 와이드 차원에서 가장 가까운 곳에서 고객이 원하는 데이터를 얻어갈 수 있게 구축했다"고 설명했다.
아마존웹서비스(AWS)나 구글 클라우드 플랫폼(GCP), 마이크로소프트(MS) 애저 등의 글로벌 서버들은 엔비디아의 고성능 GPU를 사용한 대규모 학습을 진행해 인공지능(AI)을 구현한다. 이는 초대규모의 빅테이터를 이용한 딥러닝을 가능케 해 AI의 성능을 높여주지만, 개별 상황별 맞춤형 AI를 제공하기는 어렵다.
이를 해결하기 위해 전 세계의 여러 IT 기업들은 엣지(Edge) AI를 통한 추론 솔루션을 내놓고 있다. 대부분 기업들은 스마트폰과 같은 엣지 디바이스에서 하드웨어 가속기를 통해 엣지 AI를 구현한다.
22일 지코어는 하드웨어가 아닌 소프트웨어 영역에서 서비스형 AI 인프라스트럭처(AI Infrastructure as a service)인 '엣지AI'를 발표했다. 흔히들 말하는 엣지 AI와 같은 용어를 사용하지만 지코어는 하드웨어가 아닌 'AI IaaS'라는 서비스 솔루션으로 제공한다는 것이 가장 큰 특징이다.
이를 위해서 지코어는 전 세계에 160개의 Pop(상호접속지점)을 구축했다. Pop은 중앙의 초대형 데이터센터가 아닌 엣지 데이터센터를 말한다. 전 세계에 퍼져있는 160개의 Pop에 추론용 가속기를 탑재해 소비자들이 원하는 AI 성능을 빠르게 구현한다는 것이다.
전날 지코어 세바 베이너 엣지 및 AI 클라우드 총괄은 그룹인터뷰를 진행하며 자사의 엣지AI 솔루션을 설명했다. 이날 인터뷰에는 원활한 커뮤니케이션을 위해 지코어 코리아 정현용 지사장과 김진용 프리세일즈 팀장이 동석했다.
세바 베이너 총괄은 "자율주행, 스마트 팩토리, 사물인터넷(IoT)처럼 현장과 AI 컴퓨팅간 상호작용이 중요한 사용처에서는 대량의 센서 데이터나 영상정보가 빠르게 데이터센터로 가야 한다"며 "(지코어는) 5G 특화망, 엣지AI 컴퓨팅 인프라뿐 아니라 이 둘을 빠르고 안정적으로 연결하는 엣지 네트워크까지 갖췄다"고 설명했다.
세바 베이너는 "개념 증명 구축부터 교육 및 배포에 이르기까지 AI 도입 여정의 모든 단계를 지원한다"며 "앤비디아, 그래프코어의, 암페어 등을 비롯하여 글로벌 대표 기업들과의 협력을 통해 혁신적인 프로세서를 클라우드 기반의 AI 인프라에 적용해 고객의 머신러닝(ML) 모델을 개발해 서비스할 수 있도록 안정적으로 지원 가능하다"고 말했다.
지코어의 엣지AI는 통합 UI와 API를 활용해, AI/ML 추론을 가속화하는 인프라를 구축할 수 있도록 엔비디아 GPU, 그래프코어 IPU, 암페어 CPU를 동시에 제공한다.
지코어에 따르면 엣지AI를 사용하면 모델 또는 사용자 지정 코드 학습을 쉽게 훈련하고 비교할 수 있으며, 모든 모델은 하나의 중앙 저장소에 저장한다. 이후 개발된 모델을 지코어 엣지AI 인프라의 동일한 엔드포인트에 배포할 수 있다.
Iot, 자율주행 자동차, 스마트 팩토리 등과 같이 현장과 AI컴퓨팅의 상호작용이 중요한 사용처에서는 대량의 센서 데이터나 영상정보가 빠르게 데이터센터에 전송되어야 하며, 신속한 피드백 처리가 필요하다. 이때 지코어의 저지연 글로벌 네트웍과 엣지 데이터센터에 위치한 AI플랫폼은 지금까지 생각하지 못했던 방식으로 서비스 아키텍처를 개선할 수 있다.
지코어는 5G eSIM 서비스를 통해 전 세계에 특화망을 제공하고 있다. 지코어의 엣지AI는 현장의 연결을 위한 5G특화망, 광범위한 엣지AI 컴퓨팅 인프라, 그리고 그들을 빠르고 안정적으로 연결해주는 엣지 네트워크로 완성이 된다는 것이다.
지코어코리아는 현재 리소스 집약적인 컴퓨팅 작업을 위한 GPU '엔비디아 H100' 기반 퍼블릭 및 프라이빗 클라우드 서비스를 즉시 제공할 수 있는 국내에서 유일한 CSP(클라우드 서비스 제공기업)이다. AI 기반 서비스 및 클라우드 리전을 설립하는 등 안정적인 인프라 서비스를 위한 AI 기술 적용 분야 리더로서 자리매김 하는데 주력하고 있다.
지코어는 전 세계에 고성능 AI반도체을 장착한 '생성형 AI 클러스터'를 구축하고 있다. 이를 기반으로 국내 AI 시장 공략에도 적극 나서고 있다.