엣지(Edge) AI는 애플리케이션 단에서 인공지능(AI)을 구동하는 기술이다. 굳이 클라우드로 가지 않고 엣지 디바이스에서 AI를 구현하는 기술이 점점 발달하면서 엣지 AI의 도입이 가속화되고 있다.
특히 카메라로 사물을 인식하는 비전 AI의 경우에는 엣지단에서 처리를 해야 되는 경우가 많다. 더 빠른 처리 속도, 비용, 신뢰성, 정보보호 등에서 엣지 AI가 클라우드보다 더욱 유리하기 때문이다.
이에 업계 전문가들은 현재는 아마존웹서비스(AWS), 구글 클라우드, 마이크로소프트 애저(MS Azure) 등 대형 클라우드 기반의 AI칩 시장이 크지만, 2025년만 돼도 엣지 AI칩 시장이 이를 추월할 것으로 보고 있다.
엣지 AI를 구현하기 위해서는 기본적인 AI 프로세서부터 이미지 신호처리(ISP, Image Signal Processing) 기술, 하드웨어 기반의 보안 기술, 이를 지원하는 소프트웨어 툴 등 다양한 지원이 필요하다.
미국 반도체 시스템 업체 래티스는 최근 출시된 자사 저전력 임베디드 비전 시스템의 최신 버전 ‘래티스 mVision 2.0’으로 엣지용 비전 AI 개발을 도와줄 수 있다고 밝혔다.
이기훈 래티스 코리아 부장은 4일 온라인으로 된 간담회에서 래티스 mVision 2.0 솔루션 스택에 대해 설명했다.
이기훈 부장은 "비디오나 AI 기술 등을 개발하고 싶어하는 개발자들이 이를 따로 개발하려면 고도화된 기술이 필요하다"며 "래티스는 하드웨어 레벨부터 소프트웨어 툴, 이를 위한 IP(지적재산권), 레퍼런스 디자인 등을 토탈 솔루션으로 제공한다"고 말했다. 이런 토탈 솔루션이 바로 래티스 mVision 2.0 솔루션 스택이라는 것.
이 부장의 설명에 따르면, 래티스는 2019년부터 엣지용 비전 AI 개발을 위한 다양한 애플리케이션을 공급해왔다. 지난해까지 엣지 AI와 임베디드 비전, 하드웨어 솔루션을 순차적으로 공개했으며, 올해는 보다 고도화된 솔루션으로 시장을 선도하겠다는 전략이다.
이번에 소개한 새로운 mVision 2.0은 ▲산업과 자동차 시스템에서 널리 사용되고 있는 새로운 이미지 센서 지원 ▲엣지 스마트 비전 애플리케이션 설계에 도움 되는 새로운 ISP IP 코어와 레퍼런스 디자인이 포함된다.
앞서 EE타임스는 엣지에서 비전 AI의 탑재가 늘어날 것이라고 보도한 바 있다. 해당 솔루션의 필요성과 이를 수행하는 하드웨어의 성장이 맞물려 있다는 것.
EE타임스에 따르면, 실시간 AI 처리에는 초당 수십억에서 수조 번의 연산이 이뤄진다. 엣지 AI는 이런 성능을 로컬 장치에 호환되면서 가격과 전력효율성을 맞춰주면서 적절한 크기로 제공할 수 있는 프로세서여야 한다.
이런 성능을 갖춘 엣지 AI는 센서에서 가까운 곳에서 직접 AI를 처리해, ▲대역폭 ▲지연 ▲비용 ▲개인정보보호 등 문제를 해결해준다.
보안 등의 이유로 수십~수백 대의 카메라의 시각적인 정보를 클라우드로 전송하는 것은 거의 불가능하다. 대상을 구분하기 위한 고해상도 카메라의 사용이 최근 늘어나면서 영상의 용량도 커지고 있다.
클라우드로의 전송은 너무 많은 시간과 비용이 소모된다는 것. 엣지 AI로 로컬에서 처리하는 게 더 효율적이다.
실시간 연결에서도 클라우드 AI를 맡기는 것은 위험하다. 특히 센서의 반응을 '즉각적'으로 처리해야 하는 자율주행은 0.1초의 지연도 있어서는 안 된다.
주행 중 갑자기 보행자를 발견하면 자율주행차는 순간적인 결정을 해야 한다. 클라우드까지 데이터를 전송하고 처리를 기다릴 수 없는 상황인 것.
또한 고용량 데이터와 지속적인 데이터 전송에는 꾸준한 비용이 발생한다. 엣지 AI는 클라우드로 전송해야 하는 데이터양과 클라우드작업량을 줄여준다. 이는 곧 비용 절감을 뜻한다.
개인정보를 비롯해 민감한 산업 정보를 클라우드 상에 보관하면 수많은 위협에 노출될 가능성이 크다. 개인정보가 유출돼 마케팅이나 홍보 등에 오남용될 수도 있다. 로컬 영역에서 처리되는 엣지 AI는 이런 개인정보 남용 가능성을 줄일 수 있다.
AI타임스 양대규 기자 yangdae@aitimes.com
