퀄컴이 새로운 AI 추론 가속기 '클라우드 AI 100'을 선보였다. 

퀄컴 테크날러지는 17일 엔비디아 A100 가속기보다 더 낮은 전력에서 더 높은 추론 성능을 지닌 고성능 AI 추론 가속기 '클라우드 AI 100'을 개발했다고 발표했다. 

이번에 공개한 클라우드 AI 100은 와트당 최대 400TOPS(Trillion Operations Per Second) 처리 능력을 갖췄다. 15W에서 75W에 이르는 PCIe를 비롯한 여러 폼펙터를 지원한다.

퀄컴은 높은 신호 처리와 전력 효율로 전방위에 걸쳐 AI 솔루션을 지원한다고 설명했다. 데이터센터부터 클라우드 엣지, 엣지 어플라이언스, 5G 인프라 등 다양한 환경에 적용할 수 있다는 것이다.

퀄컴 클라우드 AI 100과 타사 제품의 와트(W)당 추론 성능 비교 (이미지=퀄컴)
퀄컴 클라우드 AI 100과 타사 제품의 와트당 추론 성능 비교 (이미지=퀄컴)

퀄컴은 엔비디아와 인텔의 가속기 모델과 추론 능력을 비교하면서 이번에 내놓은 클라우드 AI 100이 경쟁 제품보다 낮은 전력으로 높은 성능을 보인다고 주장했다. 

딥러닝에 특화된 엔비디아 A100보다 낮은 전력으로 좀 더 높은 추론 성능을 보였고, 엔비디아의 추론용 AI 가속기 T4과 비교해서는 비슷한 전력에서 훨씬 높은 성능을 보였다는 것이다. 

퀄컴은 또 인텔이 인수한 하바나랩스의 고야 칩과 비교해서도 전력과 성능면에서 높은 성능을 지녔다고 자신했다.

EE타임슨는 16일(현지시간) 보도에서 퀄컴이 미디어 브리핑에서 보여준 슬라이드에는 PCIe 카드 버전인 클라우드 AI 100이 전력의 극히 일부만을 사용하면서도 업계 최고 인기 솔루션 대부분을 앞지르는 그래프가 담겨 있었다고 소개했다.

키스 크레신 퀄컴 테크날러지 수석 부사장 겸 컴퓨팅 및 엣지 클라우드 담당 본부장은 "퀄컴 테크날러지는 와트당 성능 측면에서 업계를 선도하는 엣지-투-클라우드 고성능 AI 솔루션의 완성을 뒷받침할 수 있는 역량을 갖췄다"며 "퀄컴 클라우드 AI 100은 전 세계 일부 고객을 대상으로 출하를 시작했다"고 말했다.

[관련기사] AI칩 개발, '딥러닝'이 답일까?…"다양성 확보해야"

[관련기사] 말은 ‘청산유수’, 추론은 ‘젬병’...GPT-3 등 자연어처리 AI 모델 시험 결과

키워드 관련기사
  • 2021년 주목할 인공지능(AI) 10대 트렌드
  • ReRAM으로 AI 성능↑…훈련된 AI에 인간의 뇌를 더하다
  • 광(光) 프로세서는 어떻게 AI 기술을 혁신할까?