젠슨 황이 밝힌 'CEO의 수학'...“GPU 많이 살수록 많이 절약”

젠슨 황 엔비디아 CEO가 GPU를 많이 살수록, 더 많이 절약할 수 있다라고 밝혔다. 이를 두고 "합리적인 CEO의 수학(CEO math)"이라고 설명했다.

비즈니스 인사이더는 2일(현지시간) 젠슨 황 엔비디아 CEO가 대만 '컴퓨텍스 2024' 기조연설에서 이런 발언을 했다고 보도했다. 

황 CEO는 먼저 '계산 인플레이션(computation inflation)'이라는 말을 들고 나왔다. 이는 "처리해야 하는 데이터의 양이 기하급수적으로 증가함에 따라 기존 컴퓨팅 방식으로는 따라잡을 수 없으며, 엔비디아의 가속화된 컴퓨팅 스타일을 통해서만 비용을 절감할 수 있다"라는 말로 이어졌다.

또 "엔비디아의 기술로 98%의 비용 절감과 97%의 에너지 절감이 가능하다"라며 "정확하지는 않지만, 이것이 합리적인 CEO의 계산법"이라고 설명했다.

황 CEO는 기업이 그래픽처리장치(GPU)와 중앙처리장치(CPU)에 투자해야 하는 이유를 설명하며 이 개념을 들고 나왔다. 두 프로세서는 자율적으로 작동할 수 있어 작업을 수행하는 데 걸리는 시간을 "100 단위 시간에서 1 단위"로 줄일 수 있다고 말했다.

더 많이 구매할수록 더 많이 절약할 수 있다는 설명이다. 황 CEO의 발언은 'GPU 판매를 위한 최적의 광고 멘트'라는 평도 받았다.

두 프로세서를 결합하는 것은 이미 개인용 컴퓨팅 산업에서 일반적인 관행이다. 그는 "1000달러짜리 PC에 500달러짜리 GPU를 추가하면 성능이 엄청나게 향상된다"며 "이것은 데이터센터에도 동일하게 적용된다. 10억달러짜리 데이터센터에 5억달러 상당의 GPU를 추가하면, 갑자기 그것이 'AI 공장'이 된다"라고 설명했다.

그러면서 “두 프로세서를 함께 사용할 때, 비용은 1.5배만 증가하지만 속도는 100배 향상된다”라고 강조했다.

지난 3월 엔비디아는 세계에서 가장 강력한 AI 칩이라고 주장하는 7만달러짜리 블랙웰(Blackwell) 'B200' GPU를 공개했다. 또 2개의 B200 GPU와 엔비디아 그레이스 CPU를 통합한 GB200 그레이스 블랙웰 '슈퍼칩(Superchip)'과 36개의 GB200을 NV링크로 결합한 단일 슈퍼컴퓨터 ‘GB200 NVL72’도 공개했다. 

이 탓에 B200을 사용한 GB200 NVL72은 가격이 H100의 2배 이상이지만, 최대 30배의 성능 향상을 제공하며 비용과 에너지 소비는 최대 25분의1 수준이라고 강조했다.

한편 황 CEO는 대만에서 열린 '컴퓨텍스 2024' 기조연설을 통해 AI 가속기 신제품 출시를 기존 2년에서 1년으로 단축한다면서 2026년에는 차세대 GPU 아키텍처인 '루빈(Rubin)'을 공개한다고 밝혔다.

이와 관련해 황 CEO는 “새로운 CPU, 새로운 GPU, 새로운 네트워킹 NIC, 새로운 스위치 등 수많은 칩이 등장하고 있다”라며 "우리는 더 빠른 속도로 모든 것을 제치고 앞으로 나아갈 것"이라고 밝힌 바 있다.

즉 다른 업체들이 엔비디아를 추격하려고 애를 쓰지만, 늘 먼저 한발짝 더 앞서겠다는 의미다.

박찬 기자 cpark@aitimes.com