GPU 비용 최대 70% 낮춘다... AI 인프라 스타트업 애니브릿지, 시드 투자 유치

|스마트투데이=김나연 기자| 글로벌 초기 투자 전문 벤처캐피털 더벤처스가 인공지능(AI) 인프라 소프트웨어 스타트업 애니브릿지에 시드 투자를 완료했다고 22일 밝혔다. 투자 금액은 비공개다. 애니브릿지는 더벤처스의 추천으로 중소벤처기업부의 기술창업 지원 프로그램인 팁스(TIPS)에도 최종 선정돼 지난 21일 협약을 맺었다.

최근 생성형 AI 시장의 무게 중심은 단순 모델 성능 경쟁에서 토큰당 운영 비용과 전력 효율로 빠르게 옮겨가고 있다. 현재 대규모언어모델(LLM) 구동 환경은 대부분 엔비디아 중심의 GPU에 의존하고 있어 막대한 인프라 비용을 발생시킨다. 신경망처리장치(NPU)와 지능형 메모리 반도체(PIM) 등 AI 전용 반도체가 대안으로 떠올랐지만, 이를 실제 LLM 서비스에 즉각 연동해 쓸 수 있는 소프트웨어 생태계는 초기 단계에 머물러 있다.

애니브릿지는 GPU와 NPU, PIM 등 이종 AI 가속기를 서비스 특성에 맞춰 결합하는 멀티 가속기 런타임과 기업용 AI 에이전트 플랫폼으로 이 문제를 해결한다. 특정 하드웨어에 종속되지 않는 공통 인터페이스를 기반으로 응답 속도, 비용, 모델 크기에 맞춰 최적의 반도체를 자동 배정한다. 이를 통해 기존 GPU 단독 인프라 대비 추론 비용을 40~70% 낮추는 것이 목표다. 오픈AI를 비롯해 구글 제미나이, 앤트로픽 클로드 API와 호환돼 기업 고객은 기존 개발 방식을 바꾸지 않고 바로 도입할 수 있다.

원천 기술 경쟁력도 탄탄하다. 애니브릿지는 KAIST 전산학부 박종세 교수와 권영진 교수가 공동 창업했다. 두 교수는 컴퓨터 시스템 구조 분야 최상위 학회에서 110여편의 논문을 발표하고 26건의 AI 시스템 특허를 등록한 권위자다. 구글, 메타, 엔비디아, 삼성전자, SK하이닉스 등 글로벌 빅테크와 협력 연구를 이어왔다. 여기에 AI 반도체 유니콘 삼바노바의 공동 창업자인 쿤레 올루코툰 스탠퍼드대 교수가 자문역으로 참여하고 있으며, LLM 서빙 시스템을 연구해 온 KAIST 출신 엔지니어 5명이 개발을 주도하고 있다.

기술적 기반인 LLM 서빙 시뮬레이터 LLMServingSim은 국제 학회 IISWC 2024와 ISPASS 2026에서 잇달아 최우수 논문상을 수상했다. 애니브릿지는 카카오 AI 육성 프로젝트에서 60여개 참가 기업 중 대상을 차지했으며, 지난 9월에는 국내 AI 반도체 기업 퓨리오사AI, 하이퍼엑셀과 업무협약을 맺고 플랫폼 공동 개발에 착수했다.

애니브릿지는 이번 팁스 선정을 통해 향후 2년간 최대 8억원의 연구개발(R&D) 자금을 지원받는다. 투자금과 정부 지원금은 기업용 AI 에이전트 및 인프라 소프트웨어 고도화와 고객 실증에 투입된다. 고객 인프라 여건에 맞춰 라이선스형, 매니지드형, 토큰팩토리형 등 세 가지 형태로 공급할 예정이다. 연내 2~3곳의 고객사와 파일럿 프로젝트를 진행하고, 카카오클라우드 환경에서 PoC를 진행해 성능과 운영 안정성을 입증한 뒤 2027년 정식 제품을 출시할 방침이다.

이번 투자를 주도한 김철우 더벤처스 대표는 "생성형 AI를 실제 서비스에 쓰는 기업이 늘면서, 모델 성능 못지않게 운영 비용 부담도 커지고 있다"며 "애니브릿지는 GPU에 집중된 LLM 구동 환경을 다양한 AI 반도체로 확장할 수 있는 팀인 만큼, 기업의 AI 도입 비용을 크게 낮출 것으로 기대한다"고 말했다.

박종세 애니브릿지 대표는 "GPU 외에도 다양한 AI 반도체가 나오고 있지만, 기업이 이를 함께 활용할 수 있는 소프트웨어는 아직 초기 단계다"라며 "2027년 정식 제품 출시를 시작으로 기업이 하드웨어 제약 없이 LLM 서비스에 집중할 수 있는 통합 운영 기준을 만들겠다"고 말했다.