사티아 나델라 MS CEO, “AI는 윤리적이어야 한다”

“프라이버시, 사이버보안, 윤리적 AI.”

4년 만에 한국을 찾은 사티아 나델라 마이크로소프트 CEO는 인공지능(AI) 기술로 인한 ‘기회와 책임’을 말했다. 기술의 영향력이 커진 만큼 AI 개발과 활용에 대해 책임감을 갖고 기술에 대한 신뢰를 구축해야 한다는 이유에서다. 사티아 나델라 CEO는 “컴퓨터가 무엇을 할 수 있는지가 아니라, 무엇을 해야 하는지 물어야 할 때”라며 윤리적 AI에 대해 강조했다.

| 한국을 찾은 사티아 나델라 마이크로소프트 CEO

한국마이크로소프트는 11월7일 서울 홍은동 그랜드 힐튼 호텔에서 ‘퓨처 나우’ AI 컨퍼런스를 열었다. 국내외 AI 전문가를 비롯한 관계자 1500명이 참석한 가운데 열린 이번 행사에서는 AI 기술로 창출되는 비즈니스 기회 및 이와 함께 동반되는 책임에 대한 AI 방향성이 제시됐다. 이날 기조연설에 나선 사티아 나델라 CEO는 기업의 규모와 관계없이 최신 기술을 빠르게 조직에 적용해 경쟁력을 키울 수 있도록 하는 ‘테크 인텐시티(Tech Intensity)를 갖춰야 한다고 말했다. AI를 바탕으로 한 디지털 트랜스포메이션이 기업에 새로운 기회를 제공해줄 거라는 얘기다.

AI를 통한 새로운 기회

마이크로소프트가 내세우는 건 ‘인텔리전트 클라우드’와 ‘인텔리전트 엣지’다. 생활 공간 곳곳에 클라우드에 기반한 AI 플랫폼이 들어가 세상이 하나의 컴퓨터가 될 거라는 개념이다. 이를 통해 기존에 수집할 수 없었던 다양한 데이터를 분석해 새로운 비즈니스 기회를 만들 수 있다는 게 마이크로소프트의 비전이다. 사티아 나델라 CEO는 “전세계 사람들과 조직들이 더 많은 것을 성취할 수 있도록 힘을 실어주는 게 마이크로소프트의 미션”이라고 밝혔다. 또 새로운 기회를 창출하는 AI 기술을 모두가 이용할 수 있도록 하겠다는 게 마이크로소프트의 목적이라고 덧붙였다.

| 사티아 나델라 마이크로소프트 CEO는 ‘테크 인텐시티’를 강조했다.

사티아 나델라 CEO는 한국에서 디지털 트랜스포메이션을 이룬 사례로 삼성전자, 펄어비스, 365mc, 카닥, 메타넷 등을 소개했다. 삼성전자는 클라우드 환경을 바탕으로 주변 환경의 데이터를 수집해 에너지를 절감할 수 있는 시스템 에어컨을 개발했다. MMORPG ‘검은사막’으로 유명한 펄어비스는 클라우드 기반으로 사용자 패턴 등에 대한 메타데이터를 수집해 개인화된 게임 서비스를 제공한다. 365mc는 의사가 수술할 때 AI가 비정상적인 행동을 파악하는 등 수술에 도움을 주는 AI를 만들고 있다.

큰 힘에 따르는 큰 책임

새로운 비즈니스 기회와 함께 강조된 건 책임이다. 사티아 나델라 CEO는 지난 5월 열린 연례 개발자 컨퍼런스 ‘MS 빌드 2018’에서 “우리는 지금 인텔리전트 클라우드와 인텔리전트 엣지의 시대에 살고 있으며 이 같은 기술의 발전은 개발자들에게 엄청난 기회를 제공함은 물론, 동시에 그만큼의 책임감도 요구한다”라고 말했다. 이번 기조연설에서도 마찬가지로 AI 기술이 사회에 미칠 영향에 대한 책임을 강조했다. 사티아 나델라 CEO는 ▲프라이버시 ▲사이버보안 ▲윤리적 AI 등 세 가지 원칙을 내세웠다.

먼저 프라이버시는 곧 인권이라며 데이터 보호와 투명성의 중요성을 말했다. 또 보안을 통한 신뢰도 강조했다. 특히 사이버 공격으로부터 무고한 시민과 취약계층을 지켜내는 보안과 관련해 노력을 기울이고 있다고 밝혔다. AI 기술이 가져야 할 윤리성도 강조됐다. 마이크로소프트는 2016년 자사의 AI 연구 인력을 위한 ‘AI 디자인 원칙’과 ‘AI 윤리 디자인 가이드’를 공개한 바 있다. 사티아 나델라 CEO는 모든 디자이너와 개발자가 AI 개발 원칙을 배워야 한다고 주장했다.

| 크레이그 샹크 마이크로소프트 정책·협력·법무팀 글로벌 정책그룹 총괄 부사장

이날 크레이그 샹크 마이크로소프트 정책·협력·법무팀 글로벌 정책그룹 총괄 부사장은 ‘인간 중심의 마이크로소프트 AI 철학’을 주제로 발표했다. 크레이그 샹크 부사장은 “한국은 전세계에서 1인당 로봇 수가 가장 많고 GDP 대비 연구개발 투자가 많으며, AI 관련 특허 수가 세 번째로 많을 정도로 디지털 트랜스포메이션이 활발히 일어나는 국가 중 하나”라며 “AI가 우리 삶을 바꾸고 있으며 속도와 규모 면에서 전례 없는 기술 진보가 일어나고 있다”라고 짚었다. 하지만 변화의 속도가 빠르고 영향력이 커진 만큼 우려도 커지고 있으며, 더 나은 미래를 실현하기 위해 신뢰를 얻는 일이 중요하다고 말했다.

마이크로소프트는 지난해 안면 인식 소프트웨어의 편향성이 문제가 되자 이를 인정했다. 유색 인종과 여성의 얼굴에 대해 오류율이 높다는 점이 문제가 되자 논의를 거쳐 해당 기술에 조심스럽게 접근하기로 했다. 또 미국 정부에 안면 인식 소프트웨어 사용에 대한 규제를 촉구했다. 크레이그 샹크 부사장은 “새로운 기술로 올바른 일을 할 수 있는 세상을 만들기 위해 모든 사람이 대화에 참여하고 논의를 이어나가는 게 필요하다”라고 말했다.