맥심, 신경망 가속기 탑재 MCU 출시
소형 AIoT 기기로 복잡한 추론 연산
2025년까지 엣지 AI칩 시장이 클라우드 AI칩 시장을 추월
최근 엣지 인공지능(AI)의 기술이 발전하면서 신경망 가속기를 탑재한 저전력 마이크로컨트롤러(MCU)가 공개됐다. 이를 통해 굳이 클라우드로 데이터를 전송하지 않더라도 손 안에서 작동하는 소형 AIoT(AI+IoT) 기기로 복잡한 추론을 연산할 수 있게 됐다.
이런 기술의 발달에 업계는 2025년까지 엣지 AI칩 시장이 클라우드 AI칩 시장을 추월할 것으로 전망했다.
맥심 인터그레이티드는 소프트웨어 솔루션의 100분의 1도 안되는 저전력 에너지로 복잡한 AI 추론(Inference)을 빠르게 실행하는 MCU ‘MAX78000’을 출시했다고 8일 밝혔다. 이를 통해 낮은 전력으로 배터리로 작동하는 AIoT 기기에서 복잡한 컴퓨팅을 구현할 수 있다.
FPGA나 GPU 솔루션보다 극히 저렴한 MCU로 지연시간을 100배 줄일 수 있는 셈이다.
원래 배터리 기반의 IoT 기기에서 AI 추론을 실행하면 그 절차가 복잡했다. 센서, 카메라, 마이크 등 엣지에서 수집된 데이터를 클라우드까지 전송해야 했기 때문이다. 또한 그 결과를 다시 엣지로 받아야 한다.
하지만 엣지에서 클라우드로 갔다가 다시 엣지로 오는 설계는 지연이 발생하며 에너지 소모가 크다.
기존의 저전력 MCU는 간단한 신경망을 구현했지만, 지연 문제는 여전하고, 장치 엣지에서는 단순한 작업만 실행할 수 있다고 맥심은 지적했다.
MAX78000은 전용 신경망 가속기를 통합해 문제를 해결했다. 실시간으로 실행되는 저전력 로컬 AI 프로세싱으로 복잡한 패턴을 연산할 수 있다는 것이다.
하드웨어 가속기는 소프트웨어 기반의 임베디드 솔루션보다 100분의 1 미만의 에너지로 추론을 실행할 수 있다. 머신 비전, 음성·안면 인식 등과 같은 애플리케이션의 효율적인 구축이 가능하다는 장점이 있다.
엣지 단에서 AI 기능을 수행함으로써 복잡한 인사이트를 확보하고 IoT 애플리케이션으로 클라우드 트랜잭션을 줄이거나 제거할 수 있어 지연시간을 줄인다는 것이다.
맥심은 "CNN(Convolutional Neural Networks)의 에너지와 지연 최소화를 위해 설계된 특수 하드웨어"로 이를 구현했다고 강조했다.
이 하드웨어는 MCU 종류에 상관없이 최소한의 간섭만 실행하도록 해 효율성을 높였다. 에너지와 시간은 CNN을 구현하는 수학적 연산에만 소모된다. 외부 데이터를 CNN 엔진으로 확보하는 데는 초저전력 ARM 코텍스(Cortex)-M4 코어나 더 낮은 전력을 소모하는 RISC-V 코어를 사용한다.
크리스 아디스 맥심 인터그레이티드의 마이크로·보안·소프트웨어 사업부 수석 이사는 “이제 배터리로 구동되는 IoT 장치는 단순한 키워드 검출을 넘어선 다양한 일을 할 수 있게 됐다"고 강조했다.
◆ 저전력 추론 엣지 AI칩 시장 크게 성장할 것
업계는 엣지 AI칩 시장이 크게 성장하며, 2025년부터는 클라우드 AI칩 시장을 추월할 것으로 보고 있다. 저전력 AIoT 디바이스에서 추론과 훈련 등 AI 연산이 가능해지면, 굳이 클라우드로 많은 데이터를 보낼 필요가 없어지기 때문이다.
지난 8월 시장조사업체 ABI리서치는 2025년까지 엣지 AI칩 시장이 122억달러 규모를 형성, 같은 기간 119억달러로 예상되는 클라우드 AI칩 시장을 추월할 것으로 전망된다고 밝혔다.
AI 훈련과 추론 등을 위한 머신러닝(ML) 시스템은 클라우드에 의존하고 있다. 관련 데이터 처리도 클라우드에서 이루어진다.
ABI리서치는 짧은 대기 시간과 개인정보보호에 대한 수요가 증가하고, 이를 위해 설계된 저비용·저전력 AI칩의 사용이 급격히 늘어날 것으로 예측했다. 훈련과 추론이 향후 5년 안에 센서단에서 바로 연결되는 게이트웨이나 모든 엣지 디바이스에서 처리될 것이라는 전망도 내놓았다.
라이언 졔 수 ABI리서치 수석분석가는 "고속 추론과 훈련이 이뤄지면서 엣지 AI는 다양한 분야의 디바이스와 센서 레벨에서의 채택이 늘어날 것"으로 전망했다.
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com