(사진=엔비디아)
(사진=엔비디아)

AWS, 구글, 마이크로소프트(MS), 오라클, IBM 등 빅테크 기업들이 GTC에서 발표된 인공지능(AI) 컴퓨팅 인프라, 소프트웨어 및 서비스를 도입하기 위해 엔비디아와의 협력에 속도를 내고 있다. 

벤처비트는 20일(현지시간) GTC에서 발표된 엔비디아와 빅테크 기업들간의 파트너십을 소개했다.

■ AWS

엔비디아는 AWS가 EC2 인스턴스에서 72개의 블랙웰 GPU와 36개의 그레이스 CPU를 갖춘 새로운 그레이스 블랙웰 플랫폼을 제공할 것이라고 밝혔다. 이를 통해 고객은 이전 세대 GPU보다 빠르고, 대규모로, 더 저렴한 비용으로 수조 매개변수 대형언어모델(LLM)에 대한 실시간 추론을 구축하고 실행할 수 있다.

또 두회사는 AWS 전용으로 구축된 AI 슈퍼컴퓨터인 ‘프로젝트 세이바(projct Ceiba)’에 2만736개의 GB200 슈퍼칩을 도입하고 아마존 세이지메이커(SageMaker)와 엔비디아 NIM 추론 마이크로서비스를 통합하기 위해 협력할 것이라고 발표했다 .

■ 구글 클라우드

아마존과 마찬가지로 구글도 엔비디아의 그레이스 블렉웰 플랫폼과 NIM 마이크로서비스를 클라우드 인프라에 도입한다고 발표했다. 또 고성능 LLM 교육을 위한 파이썬 기반 프레임워크인 JAX에 대한 지원을 엔비디아 H100 GPU에 추가하고, 구글 쿠버네이츠 엔진(GKE) 및 구글 클라우드 HPC 툴킷을 통해 플랫폼 전반에 걸쳐엔비디아 네모(NeMo) 프레임워크를 보다 쉽게 ​​배포할 수 있도록 한다고 밝혔다.

이제 버텍스 AI는 엔비디아 H100 GPU로 구동되는 구글 클라우드 A3 VM과 엔비디아 L4텐서코어 GPU로 구동되는 G2 VM을 지원한다. 

(사진=엔비디아)
(사진=엔비디아)

■ MS

MS는 NIM 마이크로서비스와 그레이스 블랙웰 슈퍼칩을 애저 클라우드에 추가할 계획이다. 슈퍼칩을 위한 파트너십에는 엔비디아의 새로운 쿼텀-X800 인피니밴드 네트워킹 플랫폼도 포함된다. 또 DGX Cloud와 MS 패브릭(Fabric)의 기본 통합을 통해 맞춤형 AI 모델 개발을 간소화하고 애저 파워 플랫폼에서 새로 출시된 옴니버스 클라우드 API의 가용성을 발표했다.

의료 분야에서도 MS는 애저가 엔비디아의 클라라(Clara) 마이크로서비스 제품군과 DGX 클라우드를 사용해 의료 서비스 제공자, 제약 및 생명 공학 회사, 의료 기기 개발자가 임상 연구 및 치료 제공 전반에 걸쳐 신속하게 혁신할 수 있도록 지원할 것이라고 밝혔다.

■ 오라클

오라클은 OCI 슈퍼클러스터 및 OCI 컴퓨트 인스턴스에서 그레이스 블랙웰 컴퓨팅 플랫폼을 활용할 계획이며, OCI 컴퓨트 인스턴스는 Nvidia GB200 슈퍼칩과 B200 텐서코어 GPU를 모두 채택할 계획이라고 밝혔다. 또 OCI의 엔비디아 DGX 클라우드에서도 제공된다.

이 외에도 OCI 고객이 생성 AI 애플리케이션을 구축하는데 RAG 추론 배포를 위한 네모 리트리버(NeMo Retriever), 엔비디아 NIM 및 쿠다-X 마이크로서비스를 제공할 계획이다.

■ SAP

SAP은 엔비디아와 협력해 최신 버전의 SAP 데이터스피어(Datasphere), SAP 비즈니스 테크노로지 플랫폼(Business Technology Platform) 및 RISA 위드 SAP(RISE with SAP)를 포함한 클라우드 솔루션에 생성 AI를 통합하고 있다.

또 DGX 클라우드 AI 슈퍼컴퓨팅, 엔비디아 AI 엔터프라이즈 소프트웨어 및 엔비디아 AI 파운데이션 모델을 특징으로 하는 엔비디아의 생성 AI 파운드리 서비스를 사용하여 SAP BTP 내에서 추가적인 생성 AI 기능을 구축할 계획이라고 밝혔다. 

(사진=엔비디아)
(사진=엔비디아)

■ 지멘스

지멘스는 엔비디아와의 파트너십을 확대해 지멘스 클라우드 기반 수명주기 관리(PLM)  팀센터 X(Teamcenter X)를 비롯한 지멘스 엑셀러레이터(Xcelerator) 플랫폼 애플리케이션에 새로운 엔비디아 옴니버스 클라우드 API(Omniverse Cloud API)를 도입할 계획이다.

엔비디아 옴니버스와 팀센터 X를 연결함으로써 지멘스는 엔지니어링 팀이 물리 기반 디지털 트윈을 몰입감 있고 사실적으로 제작해 워크플로우에서 소실되는 낭비를 없애고 오류를 줄일 수 있도록 지원할 예정이다. 옴니버스 API을 사용하면, 머티리얼이나 조명 환경, 기타 지원 배경 에셋을 물리 기반 렌더링에 적용하는 등의 작업이 생성 AI를 통해 가속화될 수 있다.

또 더 많은 지멘스 엑셀러레이터 포트폴리오에 엔비디아 가속 컴퓨팅, 생성형 AI 와 옴니버스를 도입할 계획이다.

■ IBM

고객의 비즈니스 과제 해결 지원을 위해 IBM 컨설팅은 기술 및 업계 전문 지식을 새로운 NIM 마이크로서비스 및 옴니버스 기술을 포함한 엔비디아 AI 엔터프라이즈 소프트웨어 스택과 결합할 계획이다. IBM은 이를 통해 고객의 AI 워크플로우를 가속화하고 사용 사례별 최적화를 강화하며 비즈니스 및 산업별 AI 사용 사례를 개발할 것이라고 밝혔다.

IBM은 이미 아이잭 심(Isaac Sim) 및 옴니버스를 사용하여 공급망 및 제조를 위한 디지털 트윈 애플리케이션을 구축하고 제공하고 있다.

■ 스노우플레이크

데이터 클라우드 회사 스노우플레이크는 이전에 발표한 엔비디아와의 파트너십을 확장해 네모 리트리버를 통합했다. 생성 AI 마이크로서비스는 맞춤형 대형언어모델(LLM)을 엔터프라이즈 데이터에 연결하고 고객이 스노우플레이크 코텍스(Cortex)로 구축된 챗봇 애플리케이션 성능과 확장성을 향상할 수 있도록 돕는다.

이번 협력에는 딥 러닝 추론 애플리케이션을 위한 낮은 대기 시간과 높은 처리량을 제공하는 엔비디아 텐서RT( TensorRT) 소프트웨어도 포함된다.

스노우프레이크 외에도 데이터 플랫폼 제공업체인 박스, 데이터루프, 클라우데라, 코헤서티, 데이터스택스 및 넷앱도 완전히 새로운 NIM 기술을 포함한 엔비디아 마이크로서비스를 사용해 검색 증강 생성(RAG) 파이프라인을 최적화하고 독점 데이터를 생성 AI에 통합할 수 있도록 지원할 계획이라고 발표했다.

■ 존슨앤존슨 메드테크

존슨앤존슨 메드테크는 엔비디아와 협력으로 수술용 커넥티드 디지털 에코시스템에 사용될 새로운 AI 기능을 테스트하고 있다. 이는 개방형 혁신을 가능하게 하고 실시간으로 대규모의 인사이트 제공을 가속화하여 수술 전, 후와 수술 작업중에 의료 전문가를 지원하는 것을 목표로 한다.

AI는 이미 수술실 데이터를 연결, 분석 및 예측하는 데 사용되고 있다. 또한 AI는 수술실 효율성과 임상에 관련한 의사결정을 향상시켜 수술의 미래에 중요한 역할을 담당할 것으로 기대된다.

존슨앤존슨 메드테크는 전 세계 수술실의 80%을 지원하고 있으며, 교육 프로그램을 통해 매년 14만 명 이상의 의료 전문가를 교육하고 있다.

수술 분야에서 오랫동안 쌓은 기술과 디지털 에코시스템을 엔비디아의 선도적인 AI 솔루션과 결합해 수술용 AI 기반 소프트웨어 애플리케이션 배포에 필요한 인프라를 가속화할 수 있다. 여기에는 IGX 엣지 컴퓨팅 플랫폼과 홀로스캔(Holoscan) 엣지 AI 플랫폼이 포함되며, 이는 수술실에 사용되는 디바이스가 안전하게 실시간으로 처리되는 것을 지원해 임상 분야에 인사이트를 제공하고 수술 결과를 향상시킨다.

이 기술은 공통 AI 컴퓨팅 플랫폼을 제공함으로써 디지털 수술 에코시스템 전반에서 개발된 서드파티 모델과 애플리케이션의 배포도 촉진할 수 있다.

(사진=엔비디아)
(사진=엔비디아)

■ 애플

애플은 '비전 프로'에 오픈USD 기반의 엔비디아 옴니버스 엔터프라이즈 디지털 트윈을 구현한다고 발표했다. 옴니버스 클라우드 API 또는 API를 기반으로 구축된 새로운 소프트웨어 프레임워크를 통해 개발자가 콘텐츠 제작 애플리케이션의 오픈 USD 산업 장면을 엔비디아 GDN(Graphics Delivery Network)로 쉽게 전송할 수 있도록 지원한다.

GDN은 고급 3D 경험을 애플 비전 프로로 스트리밍할 수 있는 글로벌 그래픽 지원 데이터센터 네트워크다.

GTC에서 공개한 데모에서 엔비디아는 애플 비전 프로의 고해상도 디스플레이에 전체 충실도(full fidelity)로 스트리밍된 물리적으로 정확한 자동차의 인터랙티브 디지털 트윈을 선보였다.

■ TSMC 및 시놉시스

엔비디아는 TSMC와 시놉시스에 엔비디아 컴퓨팅 리소그래피 플랫폼(NVIDIA computational lithography platform)을 지원한다고 발표했다. 이로써 TSMC와 시놉시스는 차세대 첨단 반도체칩의 제조를 가속화하고 기존의 제조기술의 한계를 뛰어넘을 수 있는 기반을 마련했다.

파운드리 업체인 TSMC와 반도체 설계 기업 시놉시스는 엔비디아 cu리소(cuLitho)를 반도체칩의 제조 속도를 높이기 위해 소프트웨어, 제조 공정과 시스템에 통합했으며, 향후 차세대 엔비디아 블랙웰 아키텍처 GPU를 지원할 계획이다.

또 엔비디아는 GPU 가속 컴퓨팅 리소그래피용 라이브러리인 cu리소를 강화하는 새로운 생성 AI 알고리즘을 도입했다. 이를 통해 현재의 CPU 기반 방식보다 반도체 제조 공정을 획기적으로 개선했다.

■ 뉴욕멜론은행

뉴욕멜론은행은 글로벌 은행 최초로 DGX H100 시스템을 갖춘 DGX 슈퍼포드(DGX SuperPOD)을 구축했다고 발표했다. 이 시스템은 수십대의 DGX 시스템과 인피니밴드(InfiniBand) 네트워킹을 갖추고, DGX 슈퍼포드 레퍼런스 아키텍처를 기반으로 한다. 이로써 뉴욕멜론은행은 이전에는 경험할 수 없었던 컴퓨터 처리 성능을 경험할 수 있다고 전했다.

뉴욕멜론은행은 새로운 시스템을 기반으로 엔비디아 AI 엔터프라이즈 소프트웨어를 사용해 AI 애플리케이션의 구축과 배포를 지원하고 AI 인프라를 관리할 계획이다.

박찬 기자 cpark@aitimes.com

관련기사
저작권자 © AI타임스 무단전재 및 재배포, AI학습 및 활용 금지