인공지능 세상을 바꾸는 '온 디바이스 AI'

삼성전자가 최근 인공지능(AI) 분야 세계적 석학인 승현준(세바스찬 승) 미국 프린스턴대학교 교수를 삼성리서치 소장에 내정한 데 이어 인공지능 분야 박사급 인력 1천여 명을 채용하기로 했다. 수년 간 세계 각국에 인공지능 센터를 설립하고, 세계 유수의 대학과 인공지능 관련 연구개발 활동을 펼쳐온 삼성전자가 인공지능 분야의 경쟁력을 한층 더 강화한 것이다. 관련 업계에서는 삼성전자가 클라우드 서버를 거치지 않고, 자체적으로 동작하는 '온 디바이스 AI' 개발을 가속화할 것으로 보고 있다.

온 디바이스 AI는 기존 인공지능 기술(클라우드 AI) 대비 ▲빠른 서비스 ▲강화된 보안 ▲낮은 에너지 소비 등의 장점을 갖춘 인공지능 기술을 말한다. 이는 클라우드 AI 기술이 실제 서비스 환경에서 폭증하는 트래픽으로 인한 성능 저하와 탄소 배출, 개인정보 유출 등의 한계에 봉착하고 있는 가운데 클라우드 AI의 단점을 보완해 인공지능 기술이 우리 일상에 더욱 깊숙히 침투하게 만드는 기폭제가 될 것으로 기대를 모으고 있다. 이에 미국 매사추세츠공과대학은 지난 3월 온 디바이스 AI를 향후 5년 안에 우리 사회에 큰 변화를 가져올 10대 혁신 기술 중 하나로 선정하기도 했다.

삼성전자는 2016년 미래기술육사업 지정테마 지원과제 중 하나로 '온 디바이스 딥러닝(온 디바이스 AI)'을 미래 유망 기술로 보고, 이를 집중적으로 육성해왔다. 2018년에는 스마트폰의 온 디바이스 AI 구현을 위해 별도의 신경망처리장치(NPU)를 탑재한 애플리케이션 프로세서(AP) '엑시노스9820'을 공개했으며, 2019년에는 딥러닝의 데이터 크기를 8분의 1 수준으로 줄여 전력 소모와 연산 기능(8배 향상)을 획기적으로 향상시킨 '양자화 구간 학습기술(QIL)'을 선보이기도 했다.

반도체 업계 안팎에서는 삼성전자가 온 디바이스 AI를 위한 별도의 조직과 인력구성에 나설 것으로 관측하고 있다. 이에 인공지능 반도체 전문가 영입도 타진하고 있다는 이야기가 나온다. 현재 영입 대상으로 가장 유력한 후보로는 김녹원 딥엑스 대표가 거론되고 있다. 그는 브로드컴, IBM, 시스코 시스템즈, 애플 등을 거친 시스템 반도체 설계 전문가로, 애플에서 A11 바이오닉 AP(아이폰X 적용) 개발을 주도한 바 있다.

온 디바이스 AI 기술은 삼성전자 외에도 구글, 애플, 퀄컴 등 글로벌 기업들이 지속적인 연구활동을 펼치고 있다. 아직은 실시간 통번역 기능과 이미지 보정 작업을 하는 등의 기초적인 수준이지만, 클라우드 AI의 한계를 보완할 수 있다는 측면에서 온 디바이스 AI를 활용한 서비스와 시장은 지속적인 성장이 예측된다.

특히, 인공지능 구현을 위한 딥러닝(학습과 추론의 반복) 과정에서 온 디바이스 AI는 추론 역할을 분담하고, 클라우드 AI는 학습 역할을 맡아 빅데이터 수집과 분석을 담당하는 방식이 거론된다. 이를 활용하면 클라우드 AI와 온 디바이스 AI를 연계해 자율주행차, 드론, 로봇 등 다양한 분야에서 고도의 인공지능 서비스를 구현할 수 있기 때문이다. 이에 앞으로 온 디바이스 AI 기술개발은 더욱 빠른 서비스 제공을 위한 '소프트웨어 알고리즘 경량화'와 '고성능 하드웨어 개발'로 이어질 전망이다.

알고리즘 경량화는 딥러닝 데이터 학습의 순위를 세분화하는 동시에 우선순위를 두는 방식으로, 대표적으로 삼성전자의 QIL 기술을 꼽을 수 있다. QIL 기술은 전체 데이터 중 의미 있는 데이터의 범위을 학습을 거쳐 결정한 뒤 의미 있는 범위의 데이터만 양자화해 4비트 이하의 데이터를 사용해도 성능 저하를 최소화할 수 있는 방식이다. 삼성전자는 이를 통해 반도체 트랜지스터 개수를 기존 대비 불과 120분의 1만 사용하면서도 기존과 동일한 연산결과를 얻을 수 있는 성과를 입증한 바 있다.

고성능 하드웨어 개발은 에너지 소모가 높아 비효율적인 중앙처리장치(CPU)나 연산에 적합하지만, 가격이 높은 그래픽처리장치(GPU)를 대신할 수 있는 별도의 인공지능 반도체 NPU로 개발이 가속화되는 추세다. NPU는 딥러닝에 맞춰 설계된 시스템 반도체로, 스마트폰을 포함해 웨어러블, 사물인터넷 기기 등 빅데이터 수집에 적합한 소형 기기에 탑재가 용이하다. 이에 삼성전자나 애플, 화웨이 등의 주요 스마트폰 업체들은 모두 독자적인 NPU에 개발에 집중하고 있는 상황이다.

다만, 퀄컴은 행보는 이와 다르다. 퀄컴은 지난 2013년 NPU ‘제로스’를 공개한 바 있지만, 이후 이를 자사 AP '스냅드래곤 플랫폼'에 통합한 신경망처리엔진(NPE)으로 적용하고, 디지털신호처리장치(DSP)를 활용한 텐서플로우 가속기(헥사곤텐서가속기)로 온 디바이스 AI 고도화를 추진 중이다.

관련기사

한편, 시장조사업체 가트너에 따르면 2022년까지 출하되는 전체 스마트폰의 약 80%에는 온 디바이스 AI가 적용될 전망이다. 가트너는 NPU 시장과 관련해 2018년 43억달러에 달했던 시장규모가 2023년 343억달러로 연평균 52%의 고성장세를 보일 것으로 예측하기도 했다.

※지디룩인은 ICT 산업에서 주목받는 최신 기술 트렌드를 알기 쉽게 조명하는 지디넷코리아의 기획 코너입니다.