클라우드 업체에 '구걸'까지...오라클도 특수
생성 인공지능(AI) 붐으로 슈퍼컴퓨팅 수요가 폭발하며, GPU 품귀 현상이 당분간 지속될 전망이다.
관련 업체들이 GPU 확보를 비롯한 컴퓨팅 파워 확보에 앞다퉈 나서면서 AI와 관계가 없어 보였던 오라클까지 생각지도 못했던 호황을 누리고 있는 것으로 알려졌다.
월스트리트저널(WSJ)은 29일(현지시간) 생성 AI 붐으로 GPU 수요가 늘어나며 많은 기업이 컴퓨팅 능력 확보에 애를 먹고 있다고 소개했다.
이에 따르면 서버 제조업체와 AI 기업 등은 엔비디아의 최신 GPU인 H100을 구하기 위해서는 6개월 이상을 기다려야 한다고 입을 모으고 있다.
이미 GPU를 구입한 회사 역시 실제 사용까지는 몇 주를 기다려야 하는 것으로 알려졌다. 아라빈드 스리니바스 퍼플렉시티 AI CEO는 "선불로 지불했다고 GPU가 다음날이나 다음주에 도착한다는 것은 아니다"라며 "그냥 기다리는 수밖에 없다"고 말했다.
챗GPT 개발사인 오픈AI 조차 힘들어하는 것으로 알려졌다. 샘 알트먼 오픈AI CEO는 지난 16일 상원 청문회에 참석, "많은 사람이 몰리며 서비스 병목 현상을 겪고 있다"며 사람이 적으면 더 좋겠다는 말까지 했다.
일부 회사는 컴퓨팅 성능 확보를 위해 네트워크를 샅샅이 뒤지고 있으며, 일부는 다른 회사와 서버 및 프로세스 '공유'를 조율 중인 것으로 알려졌다. 코인 채굴용 GPU를 AI쪽으로 돌리는 사업도 성행하고 있다.
그마저도 안 되는 경우 아마존이나 마이크로소프트(MS) 등에 '구걸'하는 사태까지 일어난다고 전했다. 이들 대형 클라우드 업체 역시 GPU를 대체할 자체 AI 칩을 개발 중이다.
따라서 일부 업체는 아예 GPU를 포함한 자체 서버를 구축하거나, 부족 사태가 해결될 때까지 오라클과 같이 '덜 인기있는' 클라우드 공급자로 전환하는 방법을 강구 중인 것으로 알려졌다.
특히 오라클은 이로 인해 특수를 누린 것으로 알려졌다. 얼마전 신생 업체가 오라클의 예비 서버 대부분을 예약하는 사태가 벌어졌는데, 정통한 소식통에 따르면 일론 머스크가 신설한 X.AI가 그 주인공인 것으로 밝혀졌다.
실제로 머스크 CEO는 지난 23일 월스트리트저널의 CEO 협의회 서밋 행사에서 "지금은 GPU가 마약보다 구하기가 훨씬 더 어렵다"고 하소연했다.
엔비디아도 제품 생산을 늘렸다고 밝혔다. 하지만 젠슨 황 엔비디아 CEO는 "GPU 수요는 말 그대로 전 세계 모든 곳에서 발생하고 있다"고 털어 놓았다.
임대준 기자 ydj@aitimes.com
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com