엔비디아, 'DGX H100' 본격 출하

엔비디아가 1일(현지시간) 블로그를 통해 당초 오는 10월 출시 예정이던 데이터센터용 슈퍼컴퓨터 시스템인 ‘DGX H100’을 본격 출시했다고 발표했다.

DGX H100은 8개의 'H100' GPU를 탑재하고 '엔비디아 NVLink'를 통해 하나로 연결한 슈퍼컴퓨팅 시스템이다. 이전 세대인 DGX A100 보다 6배 더 높은 새로운 FP8 정밀도에서 32FP의 AI 성능을 제공한다. 페타플롭스당 전력효율도 DGX A100에 비해 2배 향상됐다. 하드웨어를 구동하는 전체 소프트웨어 스택도 포함한다.

H100은 '호퍼' 아키텍처, A100은 '암페어' 아키텍처를 기반으로 한 GPU다.

DGX H100은 최대 32개까지, H100 GPU를 기준으로는 총 256개까지 연결해 엑사스케일의 작업을 가속화할 수 있다. 전용 트랜스포머 엔진으로 조 단위 매개변수를 가진 대규모 언어 모델을 처리할 수 있는 용량이다. 

DGX H100 시스템은 컴퓨팅, 스토리지 및 네트워크 인프라를 가속화하고 인공지능(AI) 워크로드를 최적화하기 위한 제품군인 ‘AI 베이스 커맨드’에서 실행된다.

여기에는 데이터 사이언스 파이프라인을 가속화하고 생성 AI, 컴퓨터 비전 등의 개발 및 배포를 간소화하는 소프트웨어인 ‘AI 엔터프라이즈’도 포함된다.

가격은 기존 DGX A100 시스템보다 최소 4배 이상 비쌀 것으로 예상된다. DGX A100 가격은 20만달러(약 2억6000만원) 선이다.

한편 엔비디아는 보스톤 다이나믹스 AI 연구소, 법률 AI 플랫폼인 영국의 시세로, 번역 회사인 독일의 딥엘, 됴코-1 슈퍼컴퓨터를 관리하는 일본 스타트업인 쉬레카,  존스홉킨스 대학, 스웨덴 왕립연구소 등에 이 제품을 배송하고 있다고 덧붙였다.

박찬 위원 cpark@aitimes.com