오라클, "OCI 기술 전반에 생성형 AI 내장 적용"

오라클은 25일 '오라클 클라우드 서밋'과 기자간담회를 개최하고 오라클 클라우드 인프라스트럭처(OCI) 생성형 AI(Oracle Cloud Infrastructure Generative AI) 서비스 정식 출시를 발표했다.

이날 서밋에 키노트를 맡은 알리스테어 그린(Alistair Green) 오라클 JAPAC 클라우드 엔지니어링 수석부사장은 OCI 생성형 AI를 설명하며 "OCI는 클라우드 맞춤형으로 개발된 애플리케이션과 해당 클라우드 영역 사용자가 사용할 수 있는 수백개의 독립 소프트웨어 제공기업 애플리케이션을 실행하는 완전한 단계의 클라우드"라고 강조했다.

오라클의 새로운 OCI 생성형 AI 서비스는 기업이 한층 진보한 최신 생성형 AI 기술을 보다 손쉬운 방식으로 활용할 수 있도록 지원한다.

OCI 생성형 AI 서비스는 다양한 비즈니스 사용 사례에 적용할 수 있도록 코히어(Cohere)의 대규모 언어 모델(LLM)과 메타(Meta)의 라마 2(Llama 2) LLM을 원활하게 통합했다. 

OCI 생성형 AI 서비스는 100개 이상의 다국어 기능과 개선된 GPU 클러스터 관리 경험, 유연한 미세조정 옵션 등을 제공한다. 고객은   OCI 생성형 AI 서비스를 오라클 클라우드 상에서 이용할 수 있으며, OCI 전용 리전(OCI Dedicated Region)을 통해 온프레미스 환경에서도 이용 가능하다.

또한 오라클의 검색 증강 생성(Retrieval Augmented Generation, RAG) 기술을 통해 고객은 자체 데이터를 사용해 생성형 AI모델을 추가적으로 학습시킴으로써 조직의 독특한 내부 운영방식을 이해하도록 할 수 있다. 

현재 베타 단계인 OCI 생성형 AI 에이전트(OCI Generative AI Agents) 서비스에는 RAG 에이전트가 포함돼 있다. OCI 생성형 AI 에이전트는 LLM과 OCI 오픈서치(OCI OpenSearch)를 기반으로 구축한 엔터프라이즈 검색 체계를 결합함으로써 엔터프라이즈 데이터로 보강된 맥락 기반의 검색 결과를 제공한다. 

사용자는 해당 에이전트를 통해 전문 기술 없이도 자연어 기반 대화 방식으로 다양한 엔터프라이즈 데이터 소스와 상호작용할 수 있다. 또한 동적 데이터 저장소로부터 최신 정보를 검색하며, 검색 결과와 함께 원본 소스 데이터에 대한 참조 정보를 제공받을 수 있다.

현재 OCI 생성형 AI 에이전트의 베타 버전은 OCI 오픈서치 검색 서비스를 지원한다. 향후 버전에서는 보다 광범위한 데이터 검색 및 집계 도구를 지원하고, AI 벡터 검색(AI Vector Search) 기능을 탑재한 오라클 데이터베이스 23c와 벡터 스토어(Vector Store) 기능을 활용한 MySQL 히트웨이브(MySQL HeatWave)에 대한 액세스를 제공할 예정이다.

IDC의 리투 조티(Ritu Jyoti) 글로벌 인공지능 및 자동화 연구 실무담당그룹 부사장 겸 글로벌 AI 연구 책임자는 "이번 OCI 생성형 AI 서비스 발표를 기점으로 오라클은 고객이 데이터를 별도의 벡터 데이터베이스로 옮기지 않고도 자사의 워크로드와 데이터에 생성형 AI를 적용할 수 있도록 지원할 것"이라며 "오라클은 자율운영 데이터베이스부터 퓨전 SaaS 애플리케이션에 이르는 오라클 생태계 전반에 통합되고 있는 생성형 AI용 공통 아키텍처를 통해 생성형 AI를 엑사바이트 규모의 고객 데이터가 저장된 클라우드 데이터센터 및 온프레미스 환경에 제공하게 됐다"고 강조했다.