언어 선택

"추론" 검색 결과

래블업, 한국어 LLM 추론 속도 높이는 드래프트 모델 공개

래블업, 한국어 LLM 추론 속도 높이는 드래프트 모델 공개

인공지능(AI) 인프라 전문 기업 래블업이 대규모 언어 모델(LLM)의 한국어 답변 속도를 높이는 드래프트 모델 GLM-5.2-NVFP4-DFlash-ko를 지난 9일 오픈소스 플랫폼 허깅페이스에 공개했다. 이번 모델은 z-lab의 DFlash 방식을 적용했다. Z.a...
AI 모델 훈련 늦춰져도…반도체 업계

AI 모델 훈련 늦춰져도…반도체 업계 "추론이 HBM·DRAM 새 수요처"

주요 프론티어 인공지능(AI) 개발사들이 모델 안전성 검증을 이유로 속도 조절에 나서고 있지만 반도체 업계에서는 고대역폭메모리(HBM)를 비롯한 AI 메모리 수요 기반이 흔들리지 않을 것으로 보고 있다. 신규 모델을 개발하는 훈련(Training) 속도가 둔화하더라도 ...
[애플의 귀환] ①

애플의 귀환 ①"토큰은 새로운 상품"…엔비디아가 설계하고 애플이 완성할 'AI 추론 경제'

최근 시장에서는 "애플의 시대는 갔다"는 성급한 진단이 쏟아졌다. 갤럭시의 깔끔한 사진 편집 기능과 비교되는 조악한 결과물, AI 비서 경쟁에서 한참 뒤처진 듯한 '시리(Siri)'의 모습은 애플 위기론에 불을 지폈다. 하지만 기술의 도약기마다 늘 그러했듯, 승부의 본...
'텍스트·이미지 동시 이해·추론' LG AI硏 '엑사원 4.5' 공개

'텍스트·이미지 동시 이해·추론' LG AI硏 '엑사원 4.5' 공개

LG AI연구원이 9일 텍스트와 이미지를 동시에 이해하고 추론하는 '멀티모달' 인공지능(AI) 모델 '엑사원 4.5'를 공개했다. 엑사원 4.5는 LG AI연구원이 2021년 12월 국내 최초 멀티모달 AI 모델 엑사원 1.0을 개발하며 축적한 기술력에 자체 개발한 비...
LG, 세계 최고수준 추론 AI ‘엑사원 딥’ 오픈소스 공개

LG, 세계 최고수준 추론 AI ‘엑사원 딥’ 오픈소스 공개

LG AI연구원은 글로벌 추론 AI 모델들과 경쟁할 ‘엑사원 딥(EXAONE Deep)’을 오픈소스로 공개했다고 18일 밝혔다. ‘엑사원 딥’ 공개는 한국 기업이 자체 개발한 ‘추론 AI’가 글로...
롯데이노베이트 ‘아이멤버’, 추론하는 AI ‘두뇌풀가동’ 탑재

롯데이노베이트 ‘아이멤버’, 추론하는 AI ‘두뇌풀가동’ 탑재

롯데이노베이트의 AI 플랫폼 ‘아이멤버(Aimember)’가 추론 기능 ‘두뇌풀가동’과 함께 업무 효율을 높일 수 있는 신규 기능들을 선보이며 기업용 AI 시장 경쟁력을 강화하고 있다. 12일 롯데이노베이트에 따르면 롯데의 L...
[현장] 지코어

현장 지코어 "전 세계 160개의 엣지 데이터센터에서 추론용 '엣지AI' 구현"

지코어 세바 베이너 총괄은 "지코어의 장점은 전 세계 160개의 팝(Pop)이 있다는 것"이라며, "이 팝이라는 엣지 안에 추론용 가속기를 탑재해 월드 와이드 차원에서 가장 가까운 곳에서 고객이 원하는 데이터를 얻어갈 수 있게 구축했다"고 설명했다. 아마존웹서비스(AW...
엔비디아, 드롭박스에 AI 솔루션 지원

엔비디아, 드롭박스에 AI 솔루션 지원

엔비디아는 자사 AI 기술을 드롭박스에 지원한다고 21일 발표했다. 이를 통해 드롭박스는 맞춤형 생성 AI를 새롭게 활용해 검색 정확도를 높이고, 더 효율적으로 구성하며, 클라우드 콘텐츠 전반에 걸쳐 고객의 워크플로우를 간소화할 계획이다. 드롭박스는 고객이 가장 중요한...
'시청각 활용+추론' 가능한 슈퍼AI 등장했다

'시청각 활용+추론' 가능한 슈퍼AI 등장했다

LG AI연구원이 사람처럼 시청각을 활용하고 데이터를 바탕으로 추론도 가능한 초거대 AI "엑사원"을 연구원 설립 1주년을 맞아 온라인으로 진행한 ‘LG AI 토크 콘서트’에서 공개했다. 엑사원은 ‘EXpert Ai for everyON...
GPU만으론 못 버틴다…AI 에이전트가 촉발한 CPU·서버 D램 수요

GPU만으론 못 버틴다…AI 에이전트가 촉발한 CPU·서버 D램 수요

메타의 개인 인공지능(AI) 에이전트 뮤즈(Muse)가 출시 6주 만에 설정 이용자 1000만명을 넘어서면서 반도체 시장의 지형이 바뀌고 있다. 사용자를 대신해 24시간 자율적으로 작업을 처리하는 AI 에이전트가 확산하자, 그래픽처리장치(GPU)뿐만 아니라 중앙처리장치...