엔비디아, “AI 가속기보다 GPU 장점 많아”
최근 인공지능(AI) 시장의 트렌드 중 하나는 ‘AI 가속기’다. GPU를 주요 컴퓨팅 자원으로 쓰던 것에서 벗어나 AI 기반 서비스의 효율성을 위해 자사 서비스에 최적화된 AI 가속기를 개발하는 식이다. 이에 대해 엔비디아는 크게 개의치 않는 모습이다. 각각의 컴퓨팅 방식에 장단이 있지만, GPU가 범용성이 뛰어나다는 판단에서다. 또 기존에 GPU의 단점으로 지적받던 발열과 전력 소모 부분에 대한 보완 솔루션을 내놓고 있다며 GPU 중심의 AI 시장 주도권에 대한 자신감을 보였다.
엔비디아는 11월6일 서울 잠실 롯데 시그니엘 호텔에서 기자간담회를 열고 자사의 AI 및 딥러닝 솔루션을 소개하고 최신 시장 동향에 대해 짚었다. 이날 발표에 나선 마크 해밀턴 엔비디아 솔루션 아키텍처 및 엔지니어링 담당 부사장은 GPU 대신 AI 가속기를 사용하는 시장 흐름에 대해 “어려움이 있을 수밖에 없을 것”이라며 부정적인 견해를 나타냈다.
| 마크 해밀턴 엔비디아 솔루션 아키텍처 및 엔지니어링 담당 부사장
AI 가속기는 범용성이 낮다
AI 가속기에는 크게 두 가지 방식이 있다. 회로 변경이 가능한 비메모리 반도체 FPGA와 특정 용도를 위해 설계된 칩인 ASIC(주문형 반도체) 등이다. FPGA는 회로 변경이 가능해 다양한 AI 모델에 대응할 수 있다. ASIC은 특정 용도를 위해서만 제작된 만큼 효율성이 높다. 국내에선 SK텔레콤이 FPGA 업체 자일링스와 손잡고 AI 가속 솔루션을 개발해 자사 AI 서비스 ‘누구’에 적용했다. ASIC 방식의 대표적인 예로는 머신러닝 엔진인 텐서플로우에 특화된 AI 칩인 구글의 TPU가 있다.
마크 해밀턴 부사장은 두 방식의 장단점에 대해 짚었다. ASIC 같은 경우 효율성이 높지만, 변화하는 AI 및 딥러닝 기술에 대응하기 어렵고 FPGA는 ASIC보다는 유연하지만 효율성이 낮고, 활용하기 위해 전문 프로그래머가 필요하며, CPU나 GPU보다 활용도가 낮다고 설명했다. ASIC과 FPGA 방식 모두 GPU보다 범용성이 떨어져 접근성이 낮다는 얘기다. 마크 해밀턴 부사장은 “엔비디아에서는 AI가 모든 산업, 모든 데이터센터에서 활용될 것으로 확신하며, GPU 아키텍처에 집중해 고도화해나가는 데 노력할 것”이라고 말했다.
전력 효율성, 발열 문제 개선
GPU는 AI 모델링을 하는 ‘훈련’ 과정에는 유리하지만, 만들어진 모델을 바탕으로 서비스를 하는 ‘추론’에는 전력 효율성이 낮고 발열 문제가 발생한다. 이와 관련해 엔비디아는 지난 9월 추론 가속화 기능을 제공하는 AI 데이터센터 플랫폼을 출시했다. 추론 영역에서 발생하는 GPU 문제를 개선했다. 추론 가속화 기능을 사용하면 AI 기반 서비스에서 응답시간이 빨라져 더 많은 사용자를 응대할 수 있고 빠른 처리 속도로 향상된 서비스 제공이 가능하다.
| 새로운 추론 소프트웨어를 기반으로 하는 ‘엔비디아 테슬라 T4 GPU’
마크 해밀턴 부사장은 “전력과 발열 부분에서 300W가 아닌 75W 수준으로 개선됐다”라며 “추론과 관련된 전력 소모나 발열을 개선하는 데 상당히 집중하고 있다”라고 밝혔다. 또 “시장의 경쟁 구도를 면밀하게 지켜보고 있지만 단순하게 AI 칩에만 관심을 두지 않고 AI 소프트웨어 고도화에 많은 R&D 역량을 쏟고 있다”라고 말했다.
엔비디아는 AI 컴퓨팅 기업
이날 간담회에서 유응준 엔비디아코리아 대표는 “엔비디아는 AI 컴퓨팅 기업이며, AI를 구현하기 위해 하드웨어와 소프트웨어 플랫폼을 제공해서 실제 고객들이 AI를 효과적으로 구현할 수 있도록 지원하고 있다”라고 자사를 소개했다. 마크 해밀턴 부사장은 “현재 엔비디아가 투자하고 있는 연구개발(R&D) 자금이 어떤 방식으로든 AI와 연관돼 있다”라고 말했다.
엔비디아는 11월7일부터 8일까지 서울 코엑스 컨벤션센터에서 ‘엔비디아 AI 컨퍼런스 2018’을 개최한다. 3천여명이 참석하는 이번 행사에서는 AI와 딥러닝 분야의 최신 기술 트렌드와 성공사례가 발표된다. 지난 10월 발표된 데이터 사이언스와 머신러닝 용 ‘래피즈(RAPIDS) GPU 가속 플랫폼’을 비롯해 엔비디아의 최신 AI 솔루션이 소개될 예정이다.
