GPU에 울고 웃는 AI 업계...'슈퍼 칩'까지 등장

지난주 글로벌 인공지능(AI) 업계에서 가장 많이 들려온 소식은 단연 GPU, 대형언어모델(LLM)의 학습과 운영을 위해 필수인 엔비디아의 칩 이야기입니다. 하루가 멀다고 굵직한 이슈들이 쏟아졌고, 이에 따른 해프닝도 속출했습니다.

GPU 부족 현상은 사실 지난해 말부터 두드러진 현상입니다. 생성 AI의 등장으로 마이크로소프트(MS)나 구글은 물론이고 메타나 테슬라까지 대규모의 컴퓨팅 시스템 구축에 들어가며 GPU 확보에 열을 올렸습니다.

심지어 테슬라의 자율주행을 위한 AI 플랫폼 '도조'를 구축하던 일론 머스크 CEO는 "요즘은 사람은 물론 개들까지도 GPU를 사들이는 것 같다"는 불평을 늘어놓았는데요, 이런 현상은 '챗GPT'의 등장으로 더욱 가속화됐습니다.

이를 가장 잘 반영하는 것은 안드레이 카르파티 오픈AI 컴퓨터 과학자 겸 테슬라 전 AI 이사의 "누가 'H100'을 언제 얼마나 많이 확보했는지가 요즘 실리콘 밸리의 최고 이슈"라는 발언입니다.

그러나 이도 이제는 옛말이 됐습니다. H100은 엔비디아가 지난해 내놓은 최신 GPU였습니다만, 이제는 ‘GH200’이라는 AI용 슈퍼 칩이 등장했기 때문입니다.

엔비디아는 8일 미국 LA에서 시그래프 행사를 통해 GH200의 세부 사양을 공개하고 내년 2분기부터 양산에 들어간다고 밝혔습니다. GH200은 기존 H100에 CPU와 메모리를 추가, 성능을 높이고 전력 소비를 낮춘 그야말로 AI용 슈퍼 칩입니다. 젠슨 황 엔비디아 CEO가 "LLM을 가져와서 여기에 넣으면 그야말로 미친 듯 추론할 것"이라고 말할 정도입니다.

하지만 GH200이 등장하려면 아직 1년이나 남았고, 업체들의 GPU 갈증은 계속될 것으로 보입니다. 실제로 요즘에는 GPU 부족으로 기존에 암호화폐 채굴이나 게임용으로 쓰이던 엔비디어의 그래픽 카드가 AI 훈련용으로 탈바꿈하는 판입니다.

대표적으로 암호화폐 업체에서 AI 컴퓨팅 업체로 변신한 코어위브라는 미국 스타트업은 최근 업계의 신데렐라가 됐습니다. 엔비디아가 코어위브에 H100을 몰아줬기 때문입니다. 이는 엔비디아가 당초 MS나 아마존 등에 공급하려던 물량인데, 두 업체가 GPU 부족에 시달리며 이를 대체할 자체 칩 개발을 시작한 데 대한 조치라는 분석입니다. 어쨌거나 몇개월 전만 해도 무명에 가까웠던 코어위브는 최근 대규모 투자 유치는 물론 MS와의 공급 계약까지 따내는 등 엄청난 수익을 올리며 승승장구하고 있습니다.

이런 현상은 세계 AI의 또다른 축, 중국에도 큰 영향을 미치고 있습니다. 특히 중국은 미국의 수출 금지로 인해 최신 칩인 H100은 아예 만져보지도 못하고, 대신 사양을 낮춘 'A800'이라는 제품을 수입하고 있습니다.

그런데 얼마 전 미국이 A800까지도 수출 금지할지 모른다는 소문이 퍼지며, 바이두와 바이트댄스, 텐센트, 알리바바 등 LLM을 개발하는 빅 테크들이 A800 사재기에 나선 겁니다. 올해 10억달러치를 구입한 것은 물론 내년 40억달러치를 선계약했는데, 모두 합치면 50억달러, 즉 6조600억원에 달하는 규모입니다. 암시장에서 더 높은 가격을 주고 GPU를 긁어모은다는 소식은 이제 새로운 뉴스가 아닐 정도입니다.
   
이런 가운데 엔비디아를 따라잡으려고 몸부림치는 AMD가 중국용 칩을 개발할지 고민한다는 말도 들려왔고, GPU는 물론 AI용 메모리인 'HBM' 부분에서 국내 SK하이닉스나 삼성전자, 마이크론 등이 경쟁을 펼친다는 소식이 주목받는 등 당분간 관련 소식이 끊기지 않을 것 같습니다.

그런데 과연 이런 GPU 부족 현상은 언제까지 계속될까요. 이에 대해 브래닌 맥비 코어위브 공동 창립자가 한마디 했는데, 그는 "GPU의 대안이 다양하게 등장할 수 있겠지만, GPU 부족을 해결하려면 2~3년은 더 걸릴 것"이라고 말했습니다.

한편 국내에서도 GPU를 활용하는 LLM이 최근 주요 이슈입니다. 현재 국내에서 LLM, 이른바 초거대 AI를 보유한 기업은 5곳입니다. SK텔레콤과 KT, LG AI연구원 등 통신 관련 3사와 네이버, 카카오 등 대형포털 업체인데요.

지난달 LG가 먼저 '엑사원'의 업그레이드 버전을 공개한 데 이어 네이버가 '하이퍼클로바'의 차기 버전 '하이퍼클로바X'를 오는 28일 공개한다고 발표했습니다. 카카오 역시 '코GPT 2.0'을 10월에 내놓겠다고 밝혔습니다.

여기에 AI 업계의 전통적인 강자들도 가세했습니다. 코난테크놀로지가 자체 LLM을 공개하겠다고 예고했으며, 솔트룩스도 기업용  '루시아GPT'를 9월 선보인다고 밝혔습니다. 이렇게 되면 국내 LLM 보유 기업은 7개로 늘어나게 됩니다.

물론 국내 LLM은 해외보다는 규모가 작고 인프라도 제한적입니다. 그래서 전략도 '규모'로 승부하는 것이 아닌 한국어에 맞는, 또는 특정 사업에 최적화한 '전문가 모델' 쪽으로 방향을 잡고 있습니다.

하지만 국내는 미국과 중국에 이어 LLM 분야 세계 3위 국가입니다. 한국 말고는 이스라엘 정도가 모델을 보유하고 있습니다.

전통적으로 국내 기술분야는 해외의 핵심 기술을 실제 산업에 도입한 응용기술로 급성장을 이뤄냈는데, 과연 AI 분야에서는 어떤 차별화한 서비스를 보여줄지 기대됩니다.
 
이어 국내외 주요 뉴스입니다.

■ 바이든 미국 대통령이 10일 '중국 투자 제한'에 서명했습니다. 반도체와 양자, AI 등 3분야의 중국 기업에 투자할 경우 미리 정부의 승인을 받아야 하는 내용입니다,

바이든 대통령은 이번 결정을 위해 1년 동안 업계의 의견을 청취했고, 그 결과 수위를 많이 낮춘 것으로 알려졌습니다. 그러나 지난해 10월 반도체 수출 금지에 이은 굵직한 조치로, 중국의 당연한 반발을 사고 있습니다.

갈륨과 게르마늄 등 반도체 핵심 원료 수출 금지로 맞불을 놓았던 중국이 어떻게 대응할지 주목됩니다.

■ 국내 6개 생성 AI능 스타트업이 협회 출범을 추진하고 있습니다. 여기에는 챗봇 '아숙업'으로 잘 알려진 업스테이지와 '생성 AI'을 추구하는 뤼튼테크놀로지스, '챗봇 이루다'를 서비스하는 스캐터랩, 해외에서 더 많은 사용자를 확보한 생성 AI 검색 업체 라이너를 비롯해 프렌들리AI, 콕스웨이브 등이 포함됐습니다.

AI 생태계를 조성하고 안전한 서비스를 개발하며 글로벌 경쟁력을 제고하기 위해 협회 설립에 나섰다고 밝혔으며, 다음달  정식 출범식을 열 예정입니다. 이들이 어떤 활동을 펼칠지 관심입니다.

■ 오픈AI가 LLM 학습에 필요한 인터넷 데이터를 긁어모으는 도구, 'GPT봇'을 공개했습니다. 동시에 GPT봇으로부터 정보를 차단하는 방법도 내놓았는데요.

요즘 저작권 문제로 여기저기서 고소를 당한 상황이라, 이번 GPT봇과 대응방안을 공개한 것 역시 향후 벌어질 저작권 문제에 대해 미리 대응책을 마련하려는 의도로 보입니다.

■ 국내 AI 1세대 기업 중 하나인 티쓰리큐가 획기적인 '지능형 검색'을 공개하고 관련 사업에 나선다고 밝혔습니다. 지능형 검색이란 기존 텍스트나 제목을 찾아주는 것을 넘어 영상이나 이미지, 사운드의 내용까지 읽어내는 방식으로, 세계적으로도 거의 유일한 기술이라는 설명입니다. 

이처럼 생성 AI의 한계인 환각을 막기 위해 검색을 동원하는 방법이 강조되는 추세인데요, 이는 국내 최대 AI 전문 기업 와이즈넛이나 최근 허깅페이스 LLM 세계 1위를 차지한 업스테이지도 비슷한 입장을 밝혔습니다.

과연 국내업체들이 생성 AI 분야에서 주목할만한 발전을 이뤄낼지 주목됩니다.

■ 테슬라의 자율주행이 또 도마 위에 올랐습니다. 한 유튜버가 사람 대신 곰 인형을 운전석에 앉혀놓고 자율주행이 가능하다는 것을 선보였는가 하면, 독일 베를린공과대학 연구진은 테슬라 소프트웨어 취약점을 활용해 공짜로 자율주행 기능을 업그레이드하는 방법을 공개했습니다.

세계적인 관심을 몰고 다니는 업체인 데다 평소 과감한 발언으로 다른 사람을 희화하는 게 주특기인 일론 머스크 CEO의 성향을 감안하면 이제 이런 일은 일상적인 것으로 보입니다. 한편 머스크 CEO는 마크 저커버그 메타 CEO와의 격투기 시합이 허리 부상 때문에 취소될 수 있다는 말도 남겼습니다.

AI타임스 news@aitimes.com