인공지능(AI)의 급격한 발전은 딥러닝(Deep Learning) 기술을 가능케 하는 하드웨어AI 가속기 성능의 폭발적인 성장과 관련이 깊다. 과거 개념적으로만 구상된 AI 알고리즘을 가능케 하는 AI 가속기가 등장하면서 현실화한 것.
최근 AI 업계에는 하드웨어(HW) 외에도 소프트웨어(SW) 영역에서 AI 모델의 성능을 끌어올리는 개념이 상용화되고 있다. AI SW 최적화(AI SO, Software for AI Optimization)로 불리는 이 기업들은 HW 가속을 비롯해 AI 애플리케이션 개발을 돕는 다양한 기능을 제공한다.
영국 시장조사업체 키사코 리서치(Kisaco Research)는 지난달 25일 AI SO 시장에 대해 설명하는 보고서를 발표했다. 업체는 보고서를 통해 시그옵트(SigOpt)가 AI SO 시장에서 가장 주목할 기업이라고 밝혔다. 미국 샌프란시스코에 기반을 둔 시그옵트는지난해 11월 인텔이 인수한 스타트업이다.
키사코 보고서에 따르면, AI SO는 ML 기술 스택을 SW 수준에서 작동한다. SW 기반 기술로 AI에 대표적으로 쓰이는 HW인 ▲중앙처리장치(CPU) ▲그래픽처리장치(GPU) ▲프로그래밍가능한 게이트 어레이(FPGA) ▲디지털신호장치(DSP) 등에서 실행되는 머신러닝(ML) 성능을 높일 수 있다.
또한 단순 AI 가속 외에도 SW 기반으로 기업들이 AI 애플리케이션과 제품 요구사항에 맞는 최적의 HW와 SW 조합을 선택할 수 있게 만든다.
키사코는 "AI SO 제품 시장은 AI HW 가속기 시장과 구별된다"며 "AI SO와 함께 작업하는 사용자는 다른 HW 가속기를 선택할 수 있다. AI SO는 새로운 자유도를 창조한다"고 설명했다.
또한 SW 기반의 AI SO는 특정 하드웨어를 선택 사용할 경우 AI 구성 요소 설치 공간이 줄어들기 때문에 제조업체는 제품에 더 많은 기능/기능을 추가할 공간이 필요할 수 있다.
현재 시장에 출시된 AI SO 제품은 다양한 레벨의 ML 기술에서 작동한다. 이는 동일한 AI 모델에서 서로 다른 제품의 AI SO 작업을 결합할 수 있다는 것.
키사코는 AI SO 공급업체와 기존 CPU, GPU, FPGA 등 HW 제조업체 간에 더 많은 거래와 파트너십이 형성될 것으로 전망했다.
이번 보고서에서 키사코는 인텔이 지난해 인수한 시그옵트가 올해 AI SO 산업의 리더가 될 것으로 분석했다.
미카엘 아조프 키사코 수석연구원은 "인텔 자회사인 시그옵트는 모든 측면에서 우수한 점수를 획득해 리더로 선정됐다"며 "시그옵트를 사용하는 고객은 생산성 향상, 교육 시간 단축, 효율적인 컴퓨팅 활용 등의 이점을 누릴 수 있다. 이와 함께 모델 제작자는 더 빠른 시간 내에 더 많은 모델을 생산해 기업의 전반적인 AI 수익률을 높일 수 있다"고 설명했다.
보고서에 따르면 시그옵트는 포춘 선정 500대 기업 중 하나인 투 시그마(Two Sigma)와 익명의 대형 글로벌 기업 플랫폼에 자사의 AI 기술을 도입해 30% 이상의 생산성 향상과 연간 약 5000만달러의 예상가치를 창출했다.
인텔은 지난해 10월 자사 메모리 사업부를 한국 SK하이닉스에 매각한 직후 11월 시그옵트를 인수했다. 전략적으로 AI 기술에 투자하겠다는 의도다.
라자 코두리(Raja Koduri) 인텔 수석부사장은 "새로운 인텔리전스 시대에 AI가 미래 컴퓨팅 니즈를 주도하고 있다"며 AI의 중요성을 강조했다.
그는 "소프트웨어가 AI 모델을 확장하면서 최고의 컴퓨팅 성능을 자동으로 추출하는 것이 더욱 중요하다"며 "시그옵트 AI 소프트웨어 플랫폼과 데이터 과학 인재들이 인텔 소프트웨어, 아키텍처, 제품 오퍼링과 팀을 성장하고 우리에게 귀중한 고객 통찰력을 제공할 것"이라고 말했다.
현재 AI 가속기 시장은 HW와 SW 두 시장 모두 엔비디아가 압도적인 지위를 차지하고 있다. 인텔의 시그옵트 인수는 압도적인 엔비디아의 점유율을 뺏어 새로운 AI 리더가 되겠다는 계획의 중요한 부분으로 해석된다.
AI 가속기는 HW뿐만 아니라 SW도 중요하기 때문이다. 엔비디아는 쿠다(CUDA) 플랫폼을 통해 AI 시장을 거의 독점하고 있다. 실제 AI 개발자들은 쿠다가 없이는 AI 개발을 할 수 없다고 말한다. 당연히 쿠다는 친 엔비디아적이고, 엔비디아 GPU는 친 쿠다적이다.
인텔은 엔비디아-쿠다 중심의 AI 가속기 시장을 새롭게 재편하고자 한다. 이를 위한 통합 솔루션인 원API를 제공하며, 최근에는 AI 가속기를 위한 GPU도 개발·출시했다.
시그옵트는 인텔 AI 전략을 완성하기 위한 중요한 키다. 앞서 말했듯 AI SO는 SW 기반으로 ML을 가속화 하는데, 다양한 HW와 결합할 수 있는 '유연성'이 강점이기 때문.
스콧 클라크 시그옵트 CEO는 인텔에 합류해 전 세계 데이터 과학자들에게 더 좋은 AI 모델을 제공할 수 있을 것이라며 "우리의 AI 최적화 소프트웨어와 인텔이 수십년 동안 쌓아온 AI 컴퓨팅과 머신러닝 성능의 리더십을 결합함으로써 모델러(AI 개발자)들을 위한 완전히 새로운 AI 기능을 열 수 있을 것"이라고 말했다.
AI타임스 양대규 기자 yangdae@aitimes.com
