엔비디아가 추론에 특화된 맞춤형 칩을 개발하기 위해 ASIC(Application-Specific Integrated Circuit) 사업부를 설립 중으로 알려졌다. 이는 인공지능(AI) 반도체 시장이 GPU 중심의 학습용 칩에서 추론용 칩으로 전환되는 흐름에 대응하기 위한 것이다.
테크레이더는 12일(현지시간) 엔비디아가 추론 AI 칩 개발을 위한 ASIC 사업부 설립을 추진 중이라고 보도했다.
엔비디아는 대만을 ASIC 연구개발(R&D) 센터의 중심지로 선택했으며, 현지에서 칩 설계와 소프트웨어 개발, AI 연구 등 분야에서 1000명 이상의 전문가를 채용할 계획이다.
현재 AI 반도체 시장은 AI 학습 작업에 최적화된 엔비디아의 GPU가 주도하고 있다. 그러나 최근 시장은 추론 칩, 즉 맞춤형 ASIC로의 전환을 겪고 있다. 이는 대형언어모델(LLM)이 개발 단계를 넘어, 실제 AI 응용 프로그램 구동에 활용되는 비중이 높아진 것에 따른 것이다.
GPU와 달리, ASIC는 추론 작업에서 더 높은 효율성을 제공한다.
실제로 AMD와 세레브라스같은 칩 전문 업체는 몰론, 구글과 아마존, 마이크로소프트 등 클라우드 서비스 업체도 추론 기능 특화 AI 칩 개발에 나섰다.
AMD는 엔비디아 'H200'보다 최대 40% 향상된 추론 성능을 제공하는 'MI325X' 칩을 공개했고, 세레브라스는 엔비디아보다 최대 20배 빠른 추론 속도를 제공하는 3세대 '웨이퍼 스케일 엔진(WSE)' 프로세서를 출시했다. 구글은 자체 AI 칩 ‘트릴리움(Trillium)’에 추론용 ASIC 설계를 도입했으며, 메타는 AI 추론 작업에 최적화된 2세대 'MTIA' 칩을 개발 중이다.
맞춤형 추론 AI 칩 개발로 반도체 기업 간 경쟁은 더 치열해졌다. 브로드컴과 마벨은 클라우드 서비스 제공업체들과 협력해 데이터센터용 특화 칩을 개발, 주가가 급등했다. 젠슨 황 CEO도 얼마 전부터 엔비디아가 추론에도 강점을 가지고 있다는 점을 적극 어필하고 있다.
베리파이드 마켓 리서치는 추론 AI 칩 시장 규모가 2023년 158억달러(약 23조원)에서 2030년 906억달러(약 133조원)로 증가할 것으로 예측했다.
박찬 기자 cpark@aitimes.com
