IoT 미래에 혁명을 일으킬 TinyML

작은 하드웨어에 딥 러닝 네트워크 모델을 포함시켜 기계학습을 현장에 제공
처리 능력이 낮고 메모리가 적은 저전력 하드웨어에서 데이터 분석이 가능
향후 TinyML 시장의 엄청난 성장을 촉진하는 에지 AI 기반 IoT의 폭넓은 확산
TinyML이 차세대 에지 장치 및 애플리케이션의 설계 방식을 결정지을 기술

시장 조사 기관인 ABI Research의 새로운 분석에 따르면 TinyML 칩셋의 전 세계 출하량은 2030년까지 25억 개에 이를 것으로 예상된다.(사진=스마트투제로)

오는 2026년에는 IoT(사물인터넷) 연결 수가 지금의 세 배인 236억 개에 달할 것으로 보인다. 이에따라 TinyML 기술은 인공 지능(AI) 및 기계 학습(ML)을 활용하는 기회를 넓히는데 중추적 역할을 할 것으로 기대된다. TinyML은 마이크로컨트롤러, 저렴한 CPU 및 AI 칩셋을 포함하여 작은 하드웨어에서 실행되도록 AI 모델 및 애플리케이션을 축소하기 위한 일반적인 접근 방식이다. 오늘날 세계에는 2500억 개의 마이크로컨트롤러가 있다. 2018년에만 281억 개가 판매되었으며 IC Insights는 2023년까지 연간 출하량이 382억개로 증가할 것으로 예상된다.

마이크로컨트롤러는 장치 내에서 하나의 작업이나 프로그램을 수행하는 소형 특수 목적 컴퓨터이다. 예를 들어, 텔레비전의 마이크로컨트롤러는 채널 선택기와 스피커 시스템을 제어한다. TV 리모컨에서 입력을 받으면 해당 시스템을 변경한다. 마이크로컨트롤러와 마이크로컨트롤러가 관리하는 구성요소는 제어하는 장치에 내장되어 있기 때문에 집합적으로 임베디드 시스템이라고 한다. 이러한 임베디드 시스템은 거의 모든 최신 전자 장치에 있다. 사무기기, 자동차, 의료기기 및 가전 제품에는 거의 모두 마이크로컨트롤러가 내장되어 있다.

특히 인공지능의 확산은 IoT 의 성장을 촉진했다. 이미지, 비디오, 센서 데이터 및 시계열 데이터와 같은 IoT 장치에서 수집된 데이터는 ML 모델을 훈련하는 데 사용되어 IoT 전반에 대한 가치 있는 새로운 통찰력을 생성한다. IoT의 폭 넓은 확산 추세로 최근 몇 년 동안 마이크로컨트롤러 판매는 급성장하고 있다. 마이크로컨트롤러는 전자 시스템의 자동화 및 임베디드 제어는 물론 IoT에 대한 센서 및 애플리케이션의 연결을 용이하게 한다.

이 편리한 소형 장치는 또한 단위당 평균 가격이 60센트로 매우 저렴하다. 비용은 저렴하지만 마이크로컨트롤러가 시스템 수준에서 활성화하는 경제적 영향은 막대하다. 물리적 세계의 센서 데이터가 산업 디지털 혁신의 생명선이기 때문이다. 그러나 이것은 이야기의 일부일 뿐이다.

마이크로컨트롤러는 IoT 애플리케이션을 구현하기 위한 통로일 뿐만 아니라 그 자체로 강력하고 독립적인 처리 메커니즘이 됐다. 최근 몇 년 동안 하드웨어의 발전으로 마이크로컨트롤러가 훨씬 빠르게 계산을 수행할 수 있게 됐다. 보다 효율적인 개발 표준과 함께 향상된 하드웨어는 개발자들이 쉽게 마이크로컨트롤러에 프로그램할 수 있게 만들었다. 하지만 가장 중요한 추세는 아마도 TinyML의 부상일 것이다. 글로벌 기술 시장 자문 회사인 ABI Research는 TinyML 시장이 2020년 출하량 1,520만 개에서 2030년 25억개으로 증가할 것으로 예상하고 있다.

TinyML 칩셋은 비용과 전력 효율성 문제를 모두 해결하는 것을 목표로 한다. TinyML은 소규모 추론 워크로드용으로 설계된 소프트웨어의 지원을 받아 처리 능력이 낮고 메모리 크기가 작은 저전력 하드웨어에서 데이터 분석 성능을 지원한다. IoT의 미래에 혁명을 일으킬 잠재력이 있다.

'에지(Edge)'에서 임베디드 AI에 최적화된 하드웨어를 갖춘 차세대 마이크로컨트롤러 보드 중 하나이다.(사진=ETA Compute)

TinyML은 매우 낮은 전력으로 센서 데이터의 온디바이스 분석을 수행할 수 있는 기계 학습 기술을 광범위하게 캡슐화한다. 하드웨어 발전과 TinyML 커뮤니티의 최근 기계 학습 혁신 사이에서 이제 점점 더 복잡해지는 딥 러닝 모델을 마이크로컨트롤러에서 직접 실행할 수 있다. 딥 러닝 모델은 컴퓨팅 기반이기 때문에 기본적으로 가능하다. 즉, 많은 수의 산술 연산을 완료하는 데 걸리는 시간에 따라 효율성이 제한된다.

TinyML의 발전으로 기존 마이크로컨트롤러 하드웨어에서 이러한 모델을 실행할 수 있게 수 있게 됐다. 프린터를 비롯 TV, 자동차, 심장 박동기 등에 있는 2,500억 개의 마이크로컨트롤러가 이전에는 컴퓨터와 스마트폰에서만 처리할 수 있었던 작업을 이제 수행할 수 있게 됐다. 마이크로컨트롤러 덕분에 모든 장치와 가전제품이 점점 더 똑똑해지고 있다.

TinyML은 전통적으로 크게 독립적으로 운영되었던 임베디드 초저전력 시스템과 머신 러닝 커뮤니티 간의 협력의 결실을 나타낸다. 이 연합은 온디바이스(on-device) 머신 러닝의 새롭고 흥미로운 애플리케이션을 위한 길을 열었다. 마이크로컨트롤러에서 딥 러닝 모델을 실행하는 TinyML은 이미 수년 동안 아마존, 구글 및 애플과 같은 거대 기술 기업에 의해 독점적으로 사용되어 온 '알렉사(Alexa)', '오케이 구글(Ok Google)' 및 '헤이 시리(Hey Siri)' 기능에서도 찾을 수 있다.

스마트 가전 및 스마트폰에는 로컬에서 깨우기 단어를 식별하기 위한 TinyML 칩이 함께 제공된다.(사진=아마존)

오늘날 생성되는 센서 데이터의 대부분은 비용, 대역폭 또는 전력 제약으로 인해 폐기되기도 한다. 예를 들어 초소형 위성에는 고해상도 이미지를 캡처할 수 있는 카메라가 장착되어 있지만 저장할 수 있는 사진의 크기와 수, 그리고 해당 사진을 지구로 전송할 수 있는 빈도에 따라 제한이 있다.

결과적으로 이러한 위성은 이미지를 저해상도 및 낮은 프레임 속도로 저장해야 한다. 선박이나 날씨 패턴 등의 이미지에 관심 대상이 포함된 경우에만 이미지 감지 모델을 사용하여 고해상도 사진을 저장할 수 있다면 어떨까? 과거의 초소형 위성의 컴퓨팅 리소스는 이미지 감지 딥 러닝 모델을 지원하기에는 너무 작았지만 이제 TinyML이 이를 가능하게 한다.

마이크로컨트롤러에 딥 러닝 모델을 배포할 때의 또 다른 이점은 마이크로컨트롤러가 에너지를 거의 사용하지 않는다는 것이다. 전력망에 직접 연결하거나 배터리를 자주 충전하거나 교체해야 하는 시스템에 비해 마이크로컨트롤러는 단일 코인 배터리로 이미지 인식 모델을 1년 동안 계속 실행할 수 있다.

게다가 대부분의 임베디드 시스템은 인터넷에 연결되어 있지 않기 때문에 이러한 스마트 임베디드 시스템은 기본적으로 어디에나 배치할 수 있다. 인터넷에 대한 지속적인 연결 없이 의사 결정을 가능하게 함으로써 임베디드 시스템에 딥 러닝 모델을 배포하는 기능은 완전히 새로운 유형의 제품에 대한 기회를 만든다.

실시간 교통 데이터를 수집하는 센서에 TinyML을 적용하면 이를 사용하여 교통을 보다 효과적으로 라우팅하고 긴급 차량의 응답 시간을 줄일 수 있다. 스윔 에이아이(Swim.AI)와 같은 회사 는 스트리밍 데이터에 TinyML을 사용하여 승객의 안전을 개선하고 효율적인 라우팅을 통해 정체 및 배기가스를 줄인다.

제조 부문에서 TinyML은 실시간 의사결정을 가능하게 하여 장비 고장으로 인한 다운타임을 줄일 수 있다. 작업자에게 장비 상태에 따라 필요한 경우 예방 유지 관리를 수행하도록 경고할 수 있다. 매장 내 진열대를 모니터링하고 품목 수량이 줄어들면 즉시 알림을 보내 TinyML은 품목이 품절되는 것을 방지할 수 있다. 농부들은 동물 질병으로 인해 심각한 손실을 입을 위험이 있다. 심박수, 혈압, 온도 등과 같은 건강 필수 요소를 모니터링하는 가축 웨어러블의 데이터는 질병 및 전염병의 공격을 예측하는 데 도움이 될 수 있다.

새로운 임베디드 머신 러닝 프레임워크를 통해 AI 기반 IoT 장치의 확산을 더욱 가능하게 할 것이다.(사진=아두이노)

TinyML이 흥미롭기는 하지만 아직 초기 단계에 있으며, 생태계가 활성화되기 위해서는 필요한 것들이 있다. 광범위한 머신 러닝을 위한 구글의 텐서플로우(TensorFlow)와 같이 TinyML을 지원하는 오픈 소스 프로젝트에 더 많은 투자가 필요하다. 오픈 소스를 통해 각 기여자는 다른 기여자의 작업 위에 빌드하여 더욱 강력한 솔루션을 만들 수 있기 때문이다.

퀄컴, ST 및 ETA Compute와 같은 칩셋 제조업체 및 플랫폼은 개발자와 협력하여 칩셋이 의도한 응용 프로그램에 대해 준비되고 플랫폼 통합이 신속한 응용 프로그램 개발을 촉진하도록 구축되었는지 확인할 수 있다. 클라우드 플레이어는 장치와 클라우드 간의 원활한 데이터 교환 및 처리를 허용하는 종단 간 최적화 플랫폼 솔루션에 투자할 수 있다.

펌웨어 신뢰성 향상을 위해 노력하는 멤폴트(Memfault), 기기 수준에서 데이터 보안 및 공유를 다루는 아르고시 랩(Argosy Labs)와 같은 기기 소프트웨어 인프라 회사의 직접적인 지원이 필요하다. 이러한 종류의 변경으로 인해 개발자는 거의 모든 장치에서 더 강력한 보안으로 소프트웨어 배포를 더 잘 제어할 수 있다. 수명 주기 TinyML 도구는 데이터 세트 관리, 알고리즘 개발 및 버전 관리를 용이하게 하고 테스트 및 배포 수명 주기를 향상하도록 구축되어야 한다.

그러나 혁신가는 궁극적으로 변화를 주도한다. 현재 상황에 도전하고 TinyML에 더욱 쉽게 접근할 수 있도록 리소스를 갖춘 더 많은 기계 학습 전문가가 필요하다. 텐서플로우 모바일 팀의 책임자인 피트 와든(Pete Warden)은 보청기 배터리만 전원으로 사용하여 1년 동안 마이크로컨트롤러에서 실행되는 기계 학습 애플리케이션을 구축하는 야심찬 임무를 가지고 있다. TinyML을 단기간에 현실로 만들기 위해 한발 더 나아가 혁신을 주도할 피트 같은 리더가 더 필요하다.

AI타임스 박찬 위원 cpark@aitimes.com

[관련기사]마이크로에이아이, CES에서 에지 AI 기술 시연