최근 생성형 AI와 거대 언어 모델(LLM)이 주목을 받고 있지만, 얼마나 많은 AI가 이미 곳곳에 배포되고 영향을 미치고 있는지 모르는 경우가 많다. 단순히 서버가 아닌 가정, 회사, 공공기관 등에 이미 AI가 사용되고 있다.
이를 지능형 사물인터넷(AIoT)이라고 하며, Arm은 수많은 AIoT의 기반을 구축하고 있다.
23일 Arm 코리아는 인공지능 사물인터넷(AIoT)을 더 좋은 성능에 보다 저렴하게 구현할 수 있는 새로운 Arm 코텍스(Cortex)-M52 솔루션을 발표하는 온라인 기자간담회를 열었다.
황선욱 지사장은 새로운 코텍스-M52를 소개하며 "오늘날 AI는 모든 곳에 존재하기 때문에 코어텍스-M52는 이런 엔트포인트 디바이스에서 AI 가능성을 실현하는데 필요한 프로세서가 될 것"이라며 "임베디드 컴퓨팅 솔루션에서 머신러닝을 현재보다 저렴한 비용으로 제공할 수 있는 잠재력을 제공할 것"이라고 말했다.
코텍스-M52는 소형 저전력 임베디드 디바이스를 위한 DSP 및 ML 애플리케이션에서 상당한 성능 향상을 제공하는 Arm 헬리움(Helium) 기술이 포함됐다. 이를 통해 전용 NPU 없이도 엔드포인트에 보다 컴퓨팅 집약적인 ML 추론 알고리즘을 배포할 수 있다.
헬리움 기술은 이미 네트워크 최전선에 있는 제품에서 성공적으로 구현되었지만, 이제 Arm의 파트너는 코텍스-M52를 통해 이 기능을 비용이 더 적게 드는 전력 제한 디바이스에 적용할 수 있다. 제품은 다양한 성능 포인트 및 구성에 걸쳐 확장을 위해 필요한 유연성을 제공하며, 별도의 처리 장치 없이 DSP 기능을 제공함으로써 실리콘 면적과 비용을 절감한다.
Arm에 따르면 새로운 제품은 이전 세대에 비해 ML 성능이 최대 5.6배, DSP 성능이 최대 2.7배 향상되어 개발자들은 ML 및 DSP 성능이 모두 향상되는 이점을 누릴 수 있다.
또한 기존 임베디드 개발자는 AI에 필요한 수학, 데이터 분석, 툴체인 전문 지식 및 프로그래밍 기술을 갖추는 것에 어려움을 겪고 있다. AIoT 출하량이 증가하기 위해선 개발자에 대한 지원이 필수적이다. 코텍스-M52는 오늘날 최신 개발 흐름에 필요한 핵심 기능을 제공한다.
과거 ML 및 DSP 성능을 달성하려면 CPU, DSP, NPU를 조합해야 했다. 하드웨어가 구축되면 개발자는 3개의 툴체인, 3개의 컴파일러, 3개의 디버거(debugger) 등을 사용하는 번거러움이 있었다.
이제 개발자들은 업계 표준의 사용자 친화적인 Arm 코텍스-M 포트폴리오를 통해 단일 툴체인과 검증된 단일 아키텍처에서 AI를 구현할 수 있다. 이를 통해 기존 DSP 및 ML 워크로드에 대한 통합된 개발 흐름이 보장되며, 선도적인 머신러닝 프레임워크에 대한 특정 통합 및 최적화로 개발자는 원활한 경험을 할 수 있다는 것.

댓글 (0)
댓글 작성