NYT, 하반기 실적 시장 기대치 상회 예상
엔비디아의 GPU 독주 체제가 당분간 계속될 것이라는 분석이 나왔다. 다른 기업이 따라잡기에는 이미 '엔비디아 생태계'가 견고하게 구축됐기 때문이라는 이유다.
뉴욕타임스(NYT)는 21일(현지시간) 월스트리트가 엔비디아의 AI 반도체 실적이 하반기에도 시장 기대치를 크게 웃돌 것으로 예측했다고 보도했다.
이에 따르면 전문가들은 엔비디아가 당분간 AI 반도체 시장에서 유일무이한 입지를 갖출 것이라는 예측을 내놓고 있다. 그 이유로 엔비디아가 단순히 최고 성능을 갖춘 제품을 내놓는 것을 넘어, 소프트웨어와 관련 리딩 업체를 포함한 '해자'를 구축했다는 분석이다.
실제로 지난 10여년 사이 AI 인프라는 엔비디아 GPU로 정리됐다. 오픈AI를 비롯해 마이크로소프트, 구글, 아마존, 메타 등 빅테크뿐 아니라 모든 AI 관련 기업은 엔비디아 GPU를 사용해 AI를 개발, 서비스하고 있다.
엔비디아 GPU가 뜬 것은 성능 때문이다. 엔비디아의 GPU가 생성 AI 분야에서 초반부터 성능을 검증받아 널리 활용되기 시작하며 시장을 선점했다.
비디오 게임에서 이미지를 렌더링하는 그래픽카드용 GPU를 판매하던 엔비디아는 'BERT' 등 생성 AI 초기 모델이 나오던 2017년부터 추세를 파악하고 AI 작업에 맞게 맞춤화한 GPU를 개발, '초격차'를 시작했다. 이후 2년 주기로 더 성능이 우수한 칩을 꾸준히 출시하며 경쟁사와의 격차를 벌리고 있다.
현재 GPU 시장은 엔비디아가 80% 이상을 점유 중인 독점 구조다. 하드웨어만 보면 대체재가 없지 않지만, 내면을 보면 하드웨어를 교체하기 쉽지 않은 상황이다. 비결은 엔비디아 GPU를 기반으로 하는 쿠다(CUDA) 소프트웨어 생태계다. 오늘날 널리 쓰이는 AI 개발 프레임워크와 각종 라이브러리, 도구 등은 엔비디아 GPU에 최적화돼 있다. 엔비디아 GPU를 벗어나선 생성 AI를 개발하는 게 불가능한 실정이다.
엔비디아는 GPU 프로세서를 개발하는데 멈추지 않고 AI 개발을 지원하는 핵심 소프트웨어를 개발함으로써 시장을 장악할 수 있었다. 회사를 부품 공급업체에서 AI 개발을 위한 원스톱 플랫폼으로 만드는 데 투입한 비용은 지난 10년 동안 300억달러(약 40조원) 이상이라고 밝혔다.
최근에는 과학자 및 스타트업과 협력하는 것 외에도 대형언어모델(LLM) 개발 및 머신러닝 전문 등 AI에 직접 참여하는 팀을 구성했으며, 쿠다를 넘어 여러 계층의 핵심 소프트웨어 스택을 개발했다.
더불어 AI 작업을 효율적으로 수행하기 위해 독점 네트워킹 기술과 수천개의 GPU를 사용해 조립하고 운영하는 슈퍼컴퓨터를 판매하기 시작했다. 젠슨 황 엔비디아 CO는 "단순히 칩을 만드는 것으로 부족하며, 전체 데이터 센터 구축이 필요하다"며 자신을 보였다.
현재 최고 사양 GPU인 H100 GPU 탑재 서버는 대당 수억원에 판매된다. H100의 절반 정도 가격에 구매할 수 있는 A100 텐서코어 GPU도 H100만큼은 아니지만 서버 한대당 수억원대에 팔린다. 높은 가격에도 불구하고 구할 수 없어서 배달까지 최대 12개월 걸릴 정도로 인기다. 대규모로 H100과 A100 인프라를 구축한 마이크로소프트나 구글, 아마존 같은 기업이 수천대 규모의 GPU 서버팜을 운용한다.
또 엔비디아는 최근 스타트업 코어위브에 자금과 H100 GPU를 공급하면서 클라우드 서비스를 시작했다. 이를 통해 기업은 AI 컴퓨팅 인프라를 구입하는 대신 컴퓨팅 인프라를 임대할 수 있다.
이런 이유로 AI 리딩 업체들은 엔비디아의 최신 제품을 앞다퉈 도입하고, 이를 발판 삼아 엔비디아는 관련 인프라를 확장하는 순환을 반복해 왔다.
이 때문에 일부 경쟁사는 "프로세서뿐 아니라 컴퓨터, 소프트웨어, 클라우드 서비스, AI 모델까지 판매하는 회사와 경쟁하기는 사실상 어렵다"고 하소연하기에 이르렀다. 10년 전부터 경쟁 AI 칩을 만들기 시작한 구글조차도 일부 작업을 위해 엔비디아의 GPU에 의존하는 실정이다.
올 하반기부터 GPU 경쟁 제품을 내놓는 리사 수 AMD CEO는 "모두가 다 끝났다고 말해도, 다 끝난 것은 아니다"라고 희망을 밝혔다.
하지만 NYT는 "AMD, 인텔, 구글, 아마존, 메타, IBM 등 빅테크와 세레브라스, 삼바노바 등 스타트업들이 경쟁 제품을 보유하고 있지만, 엔비디아의 기술력을 따라잡기는 아직 역부족"이라는 평가를 내놓았다.
결국 엔비디아가 AI 반도체 수요 증가의 수혜를 독차지하는 상황이 당분간 이어질 것으로 전망된다는 분석이다.
박찬 기자 cpark@aitimes.com
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com