'엣지 AI 칩' 전문 헤일로, 신제품 출시 동시에 유니콘 등극

엣지 디바이스용 인공지능(AI) 추론 칩셋의 수요 증가가 예측되는 가운데, 이스라엘 스타트업 헤일로가 새로운 엣지 AI 프로세서를 선보였다. 또 이 회사는 12억달러(약 1조6000억원)의 기업가치로 1억2000만달러(약 16020억원) 투자 유치에 성공, 유니콘에 등극했다.

벤처비트는 2일(현지시간) 스타트업 헤일로가 클라우드 연결 없이 자동차 및 상업용 로봇이나 PC과 같은 엣지 장치에 생성 AI 애플리케이션을 배포하도록 설계한 AI 칩 ‘헤일로-10(Hailo-10)’을 출시한다고 보도했다.

이에 따르면 헤일로-10은 생성 AI 워크로드를 엣지 장치에서 직접 실행, 클라우드 연결로 인한 응답 시간 지연이나 정보 유출 문제를 해결한다.

또 헤일로-10을 사용하면 CPU에 부담을 주거나 배터리를 소모하지 않고 장치에서 직접 AI 작업을 수행할 수 있다.

특히 5와트(W) 미만의 전력에서 초당 최대 10개의 토큰으로 '라마2-7B'를 실행하는 것은 물론, '스테이블 디퓨전 2.1'에서 5초 안에 이미지를 생성할 수 있다고 주장했다.

헤일로-10은 초당 최대 40테라옵스(TOPS) 성능을 제공할 수 있으며, 이는 5W에서 15W 사이의 전력 옵션으로 최대 40 TOPS의 AI 성능을 제공하는 엔비디아 '젯슨 오린 나노'보다 효율적이다. 또 인텔의 '코어 울트라 NPU'의 절반 전력으로 최소 2배 높은 성능을 제공한다. 

오르 다농 헤일로 CEO는 “헤일로-10 생성 AI 가속기는 현재 PC나 자동차 인포테인먼트 시스템에 배포, 기존 CPU를 대체할 것으로 보고 있다”라고 밝혔다.

또 "챗봇이나 개인 비서 등 AI 애플리케이션은 일반적인 CPU의 지원이 어렵기 때문에 클라우드에 항상 연결해야 한다"라며 "하지만 헤일로-10은 거의 즉각적인 반응을 제공하는 고성능으로 이런 방식을 변화할 것”이라고 강조했다.

이 제품은 올해 2분기 중 출시될 예정이다.

더불어 헤일로는 1억2000만달러(약 1618억6800만원) 규모의 투자 유치에 성공했다고 발표했다. 기업 가치는 12억달러(약 1조6186억원)로, 유니콘에 등극했다. 

엔비디아의 주가가 하늘을 찌르는 가운데, 엔비디아와 경쟁하는 칩을 개발하는 회사들까지 가치가 급상승하는 모습이다.

특히 최근 AI 칩 수요가 기존 데이터 센터용 GPU에서 온디바이스 AI나 엣지 AI를 위한 칩으로 확대된다는 점도 주목할 만하다. 엣지 AI 반도체는 GPU보다 매우 저렴하고 효율적이기 때문에 수요가 크게 늘어날 분야로 꼽힌다.

따라서 인텔이나 AMD와 같은 엔비디아의 주요 경쟁자들뿐 아니라 많은 AI 칩 스타트업들도 엣지용 반도체 개발에 집중하고 있다.

박찬 기자 cpark@aitimes.com