메타가 엔비디아와 AMD의 GPU를 모두 지원하는 통합 추론 시스템 ‘AI템플릿(AIT)’을 개발했다고 3일(현지시간) 블로그에 밝혔다. 메타는 AIT가 하드웨어에 종속되지 않고 GPU 간에 쉽게 전환되도록 설계됐다고 발표했다.
개발자는 엔비디아 GPU에 맞게 코드가 조정된 하드웨어에서는 AMD GPU를 실행하기 어렵다. 그러나 AIT를 사용하면 하드웨어에 따라 AI 애플리케이션을 다시 구현할 필요없이 엔비디아와 AMD의 GPU를 선택해서 고성능 추론을 실행할 수 있다.
AIT는 파이썬 기반의 오픈소스 프레임워크를 기반으로 하며, 엔비디아의 A100 GPU에서 최대 12배 더 빠르게 코드를 실행하거나 AMD MI250 GPU에서 최대 4배 더 빠르게 코드를 실행할 수 있다. 그러나 속도 향상만큼 중요한 것은 AIT가 제공할 수 있는 유연성이라고 메타는 설명했다.
소프트웨어는 개발자 생태계를 자신에게 유리하게 조성하려는 칩 제조업체들의 주요 전장이다. AI 작업에 인기가 많은 것은 엔비디아의 CUDA 플랫폼이지만, AIT를 사용할 경우 AMD도 효과를 누릴 수 있게 됐다.
메타는 "통합 GPU 백엔드 지원은 딥 러닝 개발자에게 최소한의 비용으로 더 많은 하드웨어 선택권을 제공한다”고 밝혔다.
AIT는 '추론'이라는 AI 작업을 위해 만들어졌는데, 추론은 방대한 양의 데이터에 대해 훈련된 AI 알고리즘이 사진이 고양이인지 개인지 여부를 결정하는 것과 같은 빠른 판단을 내리는 것이다.
AI 성능을 측정하는 ML커몬스의 설립자 데이비드 캔터는 "이는 다중 플랫폼을 위한 소프트웨어적인 노력의 결과"라며 "특히 추론을 위해 AI에서 신경망을 배포하는데 소프트웨어의 중요성을 증명한다"고 말했다. 또 “새로운 메타 AI 플랫폼은 사용자들의 선택을 도와줄 것”이라고 덧붙였다.
박찬 위원 cpark@aitimes.com
