MLperf에서 Arm 기반 CPU로 AI 추론 성능 입증
엔비디아 파트너사 9곳, 7개 추론 테스트에서 1위
Arm 기반 CPU와 엔비디아 GPU의 긍정 효과 보여줘
반대에 부딪힌 Arm 인수 여부에 M&A 필요성 '기술'로 승부
엔비디아가 Arm 인수 필요성을 간접적으로 표현했다. 최근 열린 '엠엘퍼프(MLPerf)'에서 Arm 기반 서버를 통해 인공지능(AI) 추론 성능을 입증한 결과를 밝히며 Arm 중앙처리장치(CPU)와 엔비디아 그래픽처리장치(GPU)로 구동되는 새로운 시스템의 긍정적 효과를 강조했다. 이번 대회 성과를 통해 양사가 힘을 합쳤을 때 가져올 시너지 효과를 내세우며 인수합병(M&A) 필요성을 강조한 모습이다.
◆ 엔비디아, MLPerf에서 Arm 기반 CPU로 높은 수준 AI 추론 성능 기록
엔비디아는 엠엘퍼프에서 x86과 Arm 기반 CPU로 높은 수준의 AI 추론 성능을 기록했다고 24일 밝혔다. 엔비디아와 함께하는 생태계 파트너사 9곳 시스템이 엠엘퍼프의 7개 추론 성능 테스트에서 1위를 차지했다고 설명했다. 엔비디아 생태계 파트너사는 알리바바, 델 테크놀로지스, 후지쯔, 기가바이트, 휴랫패커드 엔터프라이즈, 인스퍼, 레노버, 네트릭스, 슈퍼마이크로다.
추론은 컴퓨터가 AI 소프트웨어를 실행해 오브젝트를 인식하거나 예측을 수행하는 작업을 의미한다. 딥러닝 모델로 데이터를 필터링하고, 인간이 포착할 수 없는 결과를 찾아내는 프로세스라고 보면 된다. 엠엘퍼프 추론 벤치마크는 컴퓨터 비전과 의료 이미징, 자연어 처리, 추천 시스템, 강화학습 등 현재 널리 사용되는 AI 워크로드와 시나리오를 기초로 구성된다.
엔비디아 관계자는 "엔비디아가 엠엘퍼프 테스트에서 상시 활용하는 텐서(Tensor)RT 소프트웨어는 AI 모델을 치적화해 AI 모델을 최적화해 메모리 활용성을 극대화하고 실행 속도를 높인다"면서 "이 소프트웨어는 x86과 Arm 기반 시스템 모두에서 사용 가능하다"고 설명했다.
또 "이번 벤치마크에서는 엔비디아 트리톤 추론 서버(Triton Inference Server) 소프트웨어와 멀티-인스턴스 GPU(MIG) 기능도 활용했다"면서 "이 소프트웨어 스택의 지속적인 개선 덕분에 엔비디아는 4개월 전에 진행한 엠엘퍼프 추론 벤치마크와 비교해 성능 최대 20%, 에너지 효율 15% 향상을 달성했다"고 밝혔다.
◆ 엔비디아-Arm, 양사 CPU와 GPU로 구동되는 시스템 강조
엔비디아는 이번 대회 결과에서 Arm 아키텍처를 강조했다. Arm 솔루션이 에너지 효율과 성능 향상, 소프트웨어 생태계의 확대에 힘입어 전 세계 데이터센터로 진출하고 있다고 설명했다.
회사 측은 이번 벤치마크에서 Arm 기반 서버들은 암페어 알트라(Ampere Altra) CPU를 사용해 유사 구성의 x86 기반 추론용 서버와 거의 동일한 성능을 제공했다고 밝혔다. 실제로 일부 테스트에서는 Arm 기반 서버가 유사한 x86 시스템을 능가하기도 했다고 강조했다.
엔비디아 관계자는 "우리는 오랫동안 CPU 아키텍처 모두를 지원했으며, 상호 심사가 이뤄지는 업계 벤치마크에서 Arm은 자사 AI의 우월성을 입증할 수 있게 됐다"고 말했다.
데이비드 레콤버(David Lecomber) Arm 선임 디렉터는 "Arm은 가속 컴퓨팅 산업의 과제 해결과 혁신에 기여할 표준과 벤치마크를 수립하는 과정에 적극 동참하고 있다"며 "최근 추론 결과는 Arm 기반 CPU와 엔비디아 GPU로 구동되는 Arm 기반 시스템이 데이터센터의 광범위한 AI 워크로드를 담당할 준비가 되었음을 보여준다"고 강조했다.
◆ 엔비디아-Arm 인수합병 먹구름 "양사 힘 합친 성과 소개 많아질 것"
엔비디아와 Arm이 이번 벤치마크 결과를 바탕으로 양사의 CPU와 GPU로 구동되는 Arm 기반 시스템을 강조한 것은 M&A에 속도를 높이기 위한 것으로 풀이된다.
엔비디아는 지난해 9월 Arm 인수를 발표하며 M&A를 추진해왔다. 회사 측은 Arm을 400억 달러(약 45조 2000억원)에 인수한다고 공식 발표했다. 반도체 업계 사상 최대규모 M&A 금액이었다.
반도체 업계에서는 양사의 합병을 두고 '거대한 공룡'의 탄생으로 평가했다. 엔비디아는 그래픽처리장치(GPU) 분야 절대 강자이고, Arm은 팹리스계의 팹리스라 불리는 기술 강자여서다. 실제로 전 세계 스마트폰에 탑재되는 애플리케이션프로세서(AP)의 95%가 Arm의 설계도를 사용하는 것으로 알려졌다. AI 기술에 필수인 AI 반도체와 서버용 반도체 설계도 상위권 기술을 갖추고 있다.
엔비디아가 Arm을 정상적으로 인수하게 되면 차세대 핵심 기술로 꼽히는 AI, 데이터센터, 자율주행에 필요한 CPU와 GPU를 아우르는 반도체 포트폴리오를 모두 갖추게 된다. 반도체 팹리스 업계 관계자는 "엔비디아는 AI 컴퓨팅 등 차세대 기술에 깊이 매진하고 있다"면서 "Arm을 인수하게 되면 장기적으로 반도체 시장에서 확고한 힘을 갖게 될 것"이라고 평가했다.
하지만 양사의 M&A는 쉽지 않다. 공정거래위원회와 규제 당국의 심사를 통과해야 한다. 엔비디아가 Arm을 인수하기 위해서는 유럽연합(EU), 미국, 영국, 중국의 독점규제 승인이 필요하다. Arm이 팹리스 1위 업체이고, 엔비디아가 반도체 시장에서 영향력이 있는 만큼 양사 합병이 시장 독점에 문제가 없는지 각국 정부의 승인을 받아야 한다.
하지만 심사에 들어간 EU와 영국은 양사의 합병을 반기지 않고 있다. 7일 파이낸셜타임즈는 "EU 관계자들이 엔비디아와 Arm의 M&A가 경쟁업체에게 잠재적 피해를 줄 수 있다고 보고 있다"고 보도했다.
영국도 마찬가지다. 영국 경쟁시장청(CMA)은 8월말 "이번 인수가 엔비디아와 경쟁하는 기업의 경쟁력을 해치고 기업이나 소비자 모두에게 도움이 되지 않는다"고 밝힌 바 있다.
국내 반도체 팹리스 업계 관계자는 "이번 벤치마크 성과에서 엔비디아가 Arm 기반 시스템을 강조한 이유는 양사의 합병이 AI 시장과 반도체 시장에 어떤 긍정적 영향을 가져올지를 보여주기 위한 것으로 풀이된다"며 "최근 양사 합병의 부정적 기류가 불면서 이러한 성과를 소개하는 사례는 많아질 것"이라고 분석했다.
AI타임스 김동원 기자 goodtuna@aitimes.com
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com