엔비디아는 전 세계 2800만 개발자들이 'NIM'을 다운로드해 클라우드, 데이터 센터, 워크스테이션에 배포할 수 있게 됐다고 2일 발표했다.
NIM은 인공지능(AI) 모델을 최적화된 컨테이너로 제공하는 추론 마이크로 서비스다. 이를 사용하면 개발자들은 코파일럿, 챗봇 등의 생성 AI 애플리케이션을 몇주가 아닌 단 몇분 만에 쉽게 구축할 수 있다는 설명이다.
NIM은 지난 3월 GTC에서 처음 소개됐다. 쿠다(CUDA) 플랫폼과 마이크로서비스를 포함한 풀 스택 구성과 사전 훈련된 모델을 갖췄다.
이는 텍스트, 이미지, 비디오, 음성 등을 생성하기 위해 다양한 여러 모델을 자주 활용하는 최근 추세에 맞춘 것이다. 즉, 생성 AI를 개발자들의 애플리케이션에 추가하는 표준화된 방법을 제공함으로써 생산성을 크게 향상하려는 의도다.
또 NIM을 통해 기업들은 인프라 투자를 극대화할 수 있다고 전했다. 예를 들어, NIM에서 메타의 '라마 3-8B' 모델을 실행하면, NIM을 사용하지 않을 때보다 최대 3배 더 많은 생성 AI 토큰을 생성할 수 있다.
엔비디아는 케이던스, 클라우데라, 코히시티, 데이터스택스, 넷앱, 스케일 AI를 포함한 200여개의 기술 파트너가 NIM을 그들의 플랫폼에 통합하고 있다고 밝혔다. 이를 통해 코파일럿, 코드 비서, 디지털 휴먼 아바타 등 도메인 특화 애플리케이션을 위한 생성 AI 배포 속도를 높일 수 있다. 허깅페이스는 메타 라마 3부터 NIM을 제공하고 있다.
젠슨 황 CEO는 "모든 기업이 생성 AI를 도입하고자 하지만, 모든 기업이 전담 AI 연구팀을 보유하고 있는 것은 아니다"라며 "플랫폼 전반에 통합되고, 어디서나 개발자들이 사용할 수 있고, 어디서나 실행될 수 있는 엔비디아 NIM은 기술 업계가 생성형 AI를 모든 기업에서 활용할 수 있도록 지원한다”라고 말했다.
엔비디아 AI 엔터프라이즈 소프트웨어 플랫폼을 통해 기업들은 NIM으로 운영 중인 AI 애플리케이션을 배포할 수 있다. 다음 달부터 엔비디아 개발자 프로그램 회원은 무료로 사용할 수 있다.
임대준 기자 ydj@aitimes.com
