지난해 4700만원에서 몇개월 새 1300만원 상승

엔비디아  H100 GPU (사진=엔비디아)
엔비디아  H100 GPU (사진=엔비디아)

'챗GPT'를 비롯한 생성 인공지능(AI) 돌풍으로 엔비디아의 슈퍼컴퓨터용 GPU 모듈인 H100 가격이 폭등하고 있는 것으로 나타났다. 

14일(현지시간)자 CNBC 보도에 따르면 이베이에서 판매되는 H100 가격이 지난해까지만해도 3만6000달러(약 4700만원)였으나 최근 최고 4만6000달러(약 6000만원)까지 치솟았다. 몇개월 사이에 1만달러(약 1300만원) 가량 상승한 것이다.  

H100은 엔비디아가 지난해 10월 출시한 '호퍼' 아키텍처 기반의 최신 GPU 시스템이다. 최대 256개를 연결해 엑사스케일의 작업을 가속화하고, 전용 트랜스포머 엔진으로 조 단위 매개변수를 가진 대형언어모델을 처리할 수 있다. 

최근 가격이 폭등한 것은 챗GPT 인기가 폭발하면서 이와 유사한 대형 언어모델을 개발하려는 기업이 급증한 때문으로 풀이된다. 공급에 비해 수요가 훨씬 많아진 것이다.

실제 엔비디아는 지난해 10월 H100 GPU를 출시했으나 그동안에는 우선 순위가 높은 기업을 위주로 공급해 왔다. 특히 그래픽카드를 생산하더라도 이를 모듈로 구성하는데 적지않은 시간이 소요돼 아직은 늘어나는 수요를 모두 감당하지 못하는 상황이다.

더구나 엔비디아는 오는 10월께 H100 모듈을 8개까지 연결한 데이터센터용 슈퍼컴퓨터인 DGX도 양산해 공급하는 동시에 자체 임대서비스에도 나설 예정이다. 공급 부족 현상은 쉽사리 해소되지는 않을 것으로 보인다.

한편 최근 슈퍼컴퓨터 구성에 사용한 GPU는 대부분 '암페어' 아키텍처 기반의 A100 시스템이었다. A100 모듈 가격은 대당 1만달러(약 1300만원) 수준이다. 오픈AI가 챗GPT 개발에 활용한 슈퍼컴퓨터도 이 GPU를 탑재했다.

엔비디아가 올 초 월 3만7000달러(약 4800만원)에 임대 서비스를 진행하겠다고 밝힌 데이터센터용 DGX도 A100을 탑재한 인프라다. H100을 탑재한 DGX 서비스 가격은 이보다 최소 4배 이상 비쌀 것으로 예상된다. 

박찬 위원 cpark@aitimes.com

키워드 관련기사
  • 엔비디아, 생성 AI 위한 'H100' GPU 제품군 확장
  • 슈퍼컴퓨터도 임대한다...엔비디아, AI용 ‘DGX 클라우드' 출시
  • 엔비디아 A100, 금융 서비스 부문 추론 벤치마크에서 최고 성능 기록