LLM 기반으로 AI 애플리케이션을 구축, 배포, 관리
엔비디아는 'AI 엔터프라이즈' 소프트웨어를 마이크로소프트(MS)의 '애저(Azure) 머신 러닝'과 통합, 기업의 AI 이니셔티브 가속화를 지원한다고 24일 밝혔다.
이번 통합을 통해 애저 사용자가 맞춤형 애플리케이션을 구축, 배포 및 관리할 수 있는 '엔터프라이즈 레디(enterprise-ready)' 플랫폼을 생성했다. 이때 엔비디아 AI 플랫폼의 소프트웨어 계층인 엔비디아 AI 엔터프라이즈에서 지원하는 100개 이상의 AI 프레임워크 및 도구를 제공한다.
마누비르 다스 엔비디아 엔터프라이즈 컴퓨팅 담당 부사장은 "생성 AI 애플리케이션이 등장하면서 기업들은 혁신을 주도할 수 있는 안전한 가속화 툴과 서비스를 찾고 있다"라며 "엔비디아 AI 엔터프라이즈 소프트웨어와 애저 머신 러닝의 결합은 기업들이 개발부터 생산까지 직관적이고 효율적인 경로를 통해 AI 이니셔티브를 가속화하는 데 도움이 될 것"이라고 말했다.
또 엔비디아 AI 엔터프라이즈와 애저 머신 러닝의 결합은 고성능 엔비디아 가속 컴퓨팅 리소스에 대한 액세스를 제공해 AI 모델의 훈련 및 추론 속도를 높일 수 있다고 설명했다.
존 몽고메리 MS AI 플랫폼 담당 부사장은 "애저 머신 러닝 사용자들은 고성능 개발 플랫폼을 기대하고 있다"라며 "AI 엔터프라이즈 소프트웨어와의 통합은 이러한 기대에 부응, 기업과 개발자가 안전한 맞춤형 대형 언어 모델(LLM)을 훈련하고 배포하는 데 필요한 모든 리소스에 쉽게 액세스할 수 있도록 지원한다"고 밝혔다.
개발자는 애저 머신 러닝을 사용해 테스트에서 대규모 배포에 이르기까지 애플리케이션을 확장할 수 있으며, 데이터 암호화, 액세스 제어, 규정 준수 인증을 사용하여 조직 정책 요구 사항과 보안을 충족할 수 있다. AI 엔터프라이즈는 생산에 바로 사용할 수 있는 AI 기능으로, 애저 머신 러닝을 보완하며 전문가 지원을 제공한다.
AI 엔터프라이즈에는 데이터 사이언스 워크로드 가속화를 위한 '래피즈'와 같은 100개 이상의 프레임워크, 사전 훈련된 모델, 개발 도구가 포함돼 있다. '메트로폴리스'는 비전 AI 모델 개발을 가속화하고, '트리톤 추론 서버'는 기업이 모델 배포 및 실행을 표준화할 수 있도록 지원한다.
애저 머신 러닝과 통합한 AI 엔터프라이즈는 엔비디아 커뮤니티 레지스트리에서 제한된 기술 프리뷰로 공개했다. 또 AI 엔터프라이즈는 애저 마켓 플레이스에서 사용할 수 있다.
더불어 '옴니버스 클라우드' 서비스형 플랫폼을 애저에서 기업용 프라이빗 오퍼링으로 제공한다. 옴니버스 클라우드는 개발자와 기업에 산업용 메타버스 애플리케이션을 대규모로 설계, 개발, 배포, 관리할 수 있는 풀 스택 클라우드 환경을 제공한다.
임대준 기자 ydj@aitimes.com
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com