오라클, 기업용 생성 AI 플랫폼 서비스 공개

[지디넷코리아]

[라스베이거스(미국)=김우용 기자] 오라클이 코히어와 파트너십으로 개발한 퍼블릭 클라우드의 생성형 AI 플랫폼 서비스를 공개했다.

오라클은 19일(현지시간) 미국 라스베이거스에서 개최한 '오라클 클라우드월드 2023' 컨퍼런스에서 엔터프라이즈 기업을 위한 OCI 생성 AI 서비스를 발표했다.

대규모언어모델(LLM) 개발 스타트업인 코히어와 공동 구축한 'OCI 생성 AI 서비스'는 사용자가 LLM을 애플리케이션에 통합할 수 있는 API를 제공한다.

OCI는 저비용의 고속 AI 인프라를 통해 코히어의 언어모델을 매니지드 서비스로 제공한다. 이용자는 오라클의 AI 슈퍼클러스터 아키텍처 기반 전용 인프라로 워크로드를 실행한다. 고객 자체 데이터로 LLM을 미세조정하거나, 맞춤형 모델을 배포할 수 있다. 비용과 처리량 요구사항을 제어할 수 있다.

OCI 생성 AI 서비스는 세 가지의 모델을 포함한다.

프롬프트 모델은 사용자의 프롬프트를 받아 텍스트 답변을 생성한다. 커맨드는 두가지 크기로 제공되고, 텍스트 생성, 요약, 검색증강생성(RAG) 및 채팅 등을 비즈니스 사례에 맞게 맞춤화 할 수 있다.

요약 모델은 텍스트를 추상적으로 요약하고, 사용자 고유 사례를 지원하기 위해 다양한 매개변수로 결과를 구성하게 한다. 복잡한 법무 문서, 고객 서비스 기술지원 문서, 이메일 체인 등을 요약해준다.

임베드 모델은 텍스트를 숫자 벡터로 변환해 언어모델이 이해하도록 한다. 의미 체계 검색, 텍스트 분류, RAG용 검색 엔진, 레거시 검색 개선 등의 사례에 대해 영어와 100개 이상의 다국어 모델을 제공한다.

OCI 생성 AI 서비스는 오라클 데이터베이스 23C의 벡터 AI 검색과 원활히 작동하고, 오라클 퓨전 클라우드 애플리케이션 스위트, 넷스위트, 서너 등 SaaS 애플리케이션의 생성 AI 내장 기능의 기반을 형성한다.

현재 OCI 생성 AI 서비스는 제한적으로 사용가능하다. 사용을 원하면 대기명단에 등록하면 된다.

클레이 마고요크 오라클 OCI 총괄 부사장은 "오라클은 생성 AI의 가장 아래 계층에 AI 슈퍼클러스터를 운영해 고성능 클러스터에서 대용량 AI 훈련을 지원한다"며 "고객의 데이터는 언제나 고객 테넌트에만 있어서 생성 AI를 안전하게 기술 스택에 내장할 수 있다"고 밝혔다.