마이크로소프트(MS)가 자체 제작한 클라우드 센터용 인공지능(AI) 칩을 공개했다. 또 엔비디아와 '생성 AI 파운드리 서비스'를 출시한다고 밝혔다.
MS는 15일(현지시간) 미국 시애틀에서 '이그나이트 2023'를 개최, 100여개의 기술과 업데이트를 공개했다.
사티아 나델라 MS CEO는 기조연설에서 “지난 한해 동안 혁신의 속도는 놀라울 정도로 빠르게 진행됐다”라며 “우리 모두는 코파일럿의 창의성과 생산성에 미치는 영향을 깊이 이해하기 시작했고 이는 시작에 불과하다”라고 말했다. 이어 “코파일럿은 전 세계와 조직의 지식에 접근할 수 있는 새로운 AI가 될 것이며, 그 지식을 바탕으로 행동할 수 있도록 돕는 에이전트가 될 것”이라고 전했다.
이날 발표 내용 중 가장 눈길을 끈 것은 마이아(Maia)와 코발트(Cobalt)라는 칩이다.
마이아는 AI 기술 가속화를 위해 설계된 칩으로, 오픈AI 모델, 빙, 깃허브 코파일럿, 챗GPT와 같은 AI워크로드에 대한 클라우드 기반 학습 및 추론을 수행하도록 설계됐다. 코발트는 ARM 아키텍처를 기반으로 한 클라우드 네이티브 칩이다. 다양한 종류의 작업을 수행하는 워크로드의 성능, 전력 효율성을 최적화한다는 설명이다.
마이아는 2019년부터 프로젝트 '아테나(Athena)'라는 이름으로 개발해 온 대형언어모델(LLM) 훈련 및 추론을 위한 데이터 센터의 서버용이다. 개발을 위해 20억달러를 넘게 투자한 것으로 알려졌다.
하지만 엔비디아의 GPU를 대체하는 것이 아니라 보조하는 역할을 한다. 이를 통해 GPU 의존도를 줄이고 비용을 절감하겠다는 의도다. 외부 판매 없이 내부 용도로 사용하며, 내년초부터 실제 투입할 것으로 알려졌다.
이처럼 클라우드 빅테크들은 자체 칩 개발에 열을 올리고 있다. 구글은 'TPU'를, 아마존은 '인퍼런시아'라는 자체 AI 칩을 이미 내놓았다.
더불어 MS는 엔비디아와 최신형 GPU 'H200'을 도입하는 '생성 AI 파운드리 서비스'를 출시하겠다고 밝혔다.
이는 애저 클라우드에서 맞춤형 AI 애플리케이션을 구축하는 데 필요한 핵심 요소를 모아놓은 서비스로, 엔비디아의 AI 모델과 네모(NeMo) 프레임워크부터 'DGX' 클라우드 슈퍼컴퓨팅 서비스에 이르기까지 모든 것을 엔드 투 엔드로 제공한다.
특히 이틀 전 공개한 첨단 AI 칩 H200을 향후 몇달 내로 도입하며 80억 매개변수의 새 모델 '네모트론-3(Nemotron-3) 8B' 모델도 제공한다.
이 외에도 MS는 코파일럿에 다수 업데이트를 실시하고 생성 AI 사용자의 면책을 확대하는 등의 내용을 공개했다.
한편 테크크런치는 이제까지 '빙 챗 엔터프라이즈'으로 불렀던 기업용 생성 AI 검색을 '코파일럿'으로 통합한다고 보도했다.
케이틀린 룰스톤 MS 커뮤니케이션 이사는 "빙 챗 엔터프라이즈를 '코파일럿'으로 바꾸는 것은 소비자 및 상업 고객을 위한 통합 코파일럿 경험을 만들겠다는 우리의 비전을 반영한다"라고 말했다..
‘MS 이그나이트 2023’에 관한 보다 자세한 정보는 공식 홈페이지를 통해 확인할 수 있다.
임대준 기자 ydj@aitimes.com
