VM웨어-엔비디아, 기업용 AI 구축 플랫폼 내년 출시

[지디넷코리아]

[라스베이거스(미국)=김미정 기자] VM웨어가 엔비디아와 손잡고 기업용 인공지능(AI) 구축 플랫폼을 내년 초 출시하겠다고 발표했다.

VM웨어는 22일(현지시간) 미국 네바다주 라스베이거스에서 개최한 'VM웨어 익스플로어 2023'에서 'VM웨어 프라이빗 AI 파운데이션 위드 엔비디아'를 소개하며 이같이 밝혔다.

VM웨어 프라이빗 AI 파운데이션 위드 엔비디아는 VM클라우드 파운데이션 기반으로 작동한다. 여기에 생성 AI 소프트웨어(SW)와 엔비디아 가속 컴퓨팅을 통합한 형태다. 성능은 베어메탈과 비슷하거나 더 높다. 이는 최근 업계 벤치마크에서 입증됐다.

기업은 플랫폼에서 메타 '라마 2' 같은 오픈소스 거대언어모델(LLM)을 기업 맞춤형으로 구축할 수 있다. 맞춤형 모델은 기업 데이터센터, 퍼블릭 클라우드, 엣지 등에서 활용된다. 이를 통해 기업은 자사 고객에게 맞춤형 생성 AI 모델을 제공하고, 대규모 추론 워크로드를 안전한 환경에서 실행할 수 있게 도와준다. AI 챗봇을 비롯한 검색, 요약 기능 등 생성 AI 애플리케이션도 이용할 수 있다.

VM웨어는 해당 솔루션 강점으로 강력한 보안성을 꼽았다. 데이터 개인 정보를 보호하고 안전한 접근을 보장하는 아키텍처를 갖췄다는 이유에서다. 이는 데이터에 인접한 모든 곳에서 AI 서비스를 안전하고 쉽게 실행할 수 있게 지원한다.

기업은 해당 플랫폼으로 데이터 센터를 기존보다 확장할 수도 있다. 가상화된 환경에서 GPU 확장 최적화함으로써 AI 워크로드를 단일 가상머신과 여러 노드에서 최대 16개의 vGPU와 GPU로 넓힐 수 있다. 기업이 생성 AI 모델 미세 조정과 구축 시간을 줄일 수 있게 돕는 셈이다.

비용 절감도 가능하다. VM웨어 측은 GPU 등 컴퓨터 리소스 사용을 극대화함으로써 전체 시스템 운용 비용을 줄일 수 있다고 강조했다. 또 기업 내 팀끼리 컴퓨팅 리소스를 효율적으로 공유할 수 있는 환경을 구축할 수 있다고 했다.

이 외에도 VM웨어는 해당 플랫폼에서 VM웨어 vSAN 익스프레스 스토리지 아키텍처를 통한 스토리지 가속화, v스피어와 엔비디아 NV스위치로 네트워킹 가속화 기능도 지원한다고 밝혔다.

두 기업은 이 플랫폼이 해당 기능을 갖출 수 있는 이유를 양사 제품 결합으로 봤다. VM웨어 프라이빗 AI 파운데이션 위드 엔비디아는 VM웨어 클라우드 파운데이션에 '엔비디아 L40S GPU' '엔비디아 블루필드-3 DPU' '엔비디아 커넥트X-7 스마트NIC'를 통합한 형태다.

VM엔비디아 L40S GPU는 엔비디아 A100 텐서코어 GPU보다 최대 1.2배 높은 생성 AI 추론, 1.7배 더 높은 훈련 기능을 갖췄다. 블루필드-3 DPU는 가상화를 비롯한 네트워킹, 스토리지, 보안 등 클라우드 네이티브 AI 서비스의 컴퓨팅 로드로 이뤄졌다. 엔비디아 커넥트X-7 스마트NIC는 데이터센터 인프라를 위한 네트워킹을 제공한다. 기존보다 더 신속하게 AI 워크로드를 가속화할 수 있다.

VM웨어 프라이빗 AI 파운데이션 위드 엔비디아는 델 테크놀로지스, 휴렛패커드엔터프라이즈, 레노버 지원도 받는다.

라구 라구람 VM웨어 최고경영자(CEO)는 이날 행사에서 “생성 AI와 멀티 클라우드는 완벽한 조합"이라며 “VM웨어는 엔비디아와 기업 데이터 개인 정보 보호, 보안, 제어 문제를 해결하고 생성 AI 워크로드를 안전하게 실행할 수 있도록 지원할 것"이라고 강조했다.

젠슨 황 엔비디아 CEO는 “모든 기업이 자사 비즈니스에 생성 AI를 통합하기 위해 경쟁 중"이라며 “VM웨어와 손잡고 금융, 의료, 제조 분야에 있는 고객 데이터로 AI 잠재력을 실현하는 데 필요한 풀 스택 컴퓨팅을 제공할 것"이라고 말했다.