인공지능(AI) 기술 발전을 위해서는 빠른 연산과 추론이 가능한 컴퓨팅 능력이 필요하다. 실행 프로세서가 발전해야 AI 기술이 성장한다. 이런 이유로 반도체 기업의 최신 컴퓨팅 기술이 AI 산업에서 중요한 부분 가운데 하나로 인식된다.
미국 캘리포니아에 위치한 AI 프로세서 스타트업 블레이즈(Blaize)가 최근 엣지 AI용 하드웨어와 소프트웨어를 공개했다고 EETimes가 16일(현지시간) 보도했다.
보도에 따르면 디나카르 무나갈라 블레이즈 공동 설립자 겸 CEO는 자사의 GSP(Graph Streaming Processing) 아키텍처가 새로운 엣지 AI 솔루션이 될 것이라고 자신했다.
그는 매우 작은 컴퓨팅 파워를 지닌 엣지 AI 솔루션과 비싸고 전력 소모가 심한 레거시 GPU와 CPU 사이에 간극이 존재한다고 설명했다.
EE타임스는 "애플리케이션마다 전력 소비량, 지연 시간, 프로세서 성능, 프로그래밍 기능에 대한 요구 사항이 서로 다르다"며 "이 모든 것을 하나의 프로세서가 커버할 수는 없다"고 지적했다.
블레이즈도 이를 모두 커버하는 완벽한 제품을 개발할 수는 없다. 블레이즈는 자사의 새로운 엣지 AI 솔루션이 둘 사이의 간극을 일부 좁혀줄 것으로 기대한다.
블레이즈는 "7W의 작은 전력 인벨롭(Power Envelope) 내에서 GSP 코어 16개와 16TOPS의 AI 추론 성능을 발휘하는 GSP는 엣지 AI 애플리케이션용 GPU나 CPU 대비 최대 60배 향상된 시스템 레벨 효율성을 제공한다"며 GSP의 성능을 강조했다.
EE타임스는 7W로 16TOPS는 저전력이며 블레이즈의 GSP가 CPU, GPU와는 비교되지만, AI 가속기들과의 비교를 한 것은 아니라고 짚었다.
이어 "GSP 아키텍처는 다른 AI 프로세서가 제공할 수 없는 '낮은 지연 시간, 낮은 전력 소비, 프로그래밍 기능'을 제공한다"며 "새로운 종류의 데이터 기반 AI 워크로드가 끊임없이 발전함에 따라, GSP의 완벽한 프로그래밍 기능을 제공하는 능력은 필수적"이라고 분석했다.
엣지 솔루션으로 저전력은 필수적이면서, 컴퓨팅 성능이 보장되야 한다는 것이다.
이에 블레이즈는 5대의 HD 파워 오버 이더넷(Power-over-Ethernet) 카메라로 팀을 이룬 P1600이 초당 10프레임(총 50FPS)으로 작동하는 5개의 독립 신경망을 100ms 미만의 지연 시간으로 제공할 수 있다는 것을 입증했다고 주장했다.
블레이드의 P1600 임베디드 시스템 온모듈로은 ARM CPU와 블레이즈 GSP가 통합된 신용카드 크기의 모듈이다. 이는 카메라 내부에 들어갈 수 있는 독립형 시스템을 갖췄다.
P1600은 인간 운영자와 로봇의 감시 자세와 위치, 제품 ID를 포착하고 제품 수를 세는 기능을 수행한다.
또한 무나갈라는 "센서 융합에 적용된 단일 P1600은 ISP 처리와 세분화, 비디오와 라이다/레이더 데이터를 융합하는 것까지 다양한 작업을 처리할 수 있다"며 "고해상도 FHD 영상과 라이다/레이더 센서 융합 애플리케이션을 구현할 수 있다"고 설명했다.
그는 블레이즈가 출시하는 모든 모듈이 이미 '산업용'이라고 강조했다.
무나갈라에 따르면 블레이즈는 이미 약 6개 이상의 잠재 고객에게 시험 모듈을 맡겼다. 이 중 하나가 자동차 업계 티어1 기업인 덴소다. 덴소는 메인 투자자 겸 파트너사로 블레이즈가 자동차 분야에서 GSP 아키텍처를 발전시키는 것을 도왔다.
블레이즈는 약 1년 전부터 칩을 시범 생산했으며, 7월부터 본격적으로 생산모듈을 가동했다.
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com