[AI칩러닝] GPU는 혼자 움직이니?…AI를 위한 CPU의 자격 요건은?③ < 포커스 < 기사본문

[편집자주]인공지능(AI) 기술의 중심은 소프트웨어(SW) 기술이다. 어떤 모델을 구축하느냐, 어떤 언어를 사용할까, 데이터를 어떻게 분류할 것인가. 이런 질문에 대한 답이 SW에서 나오기 때문이다.

하지만 복잡한 AI SW를 구현하기 위해서는 높은 성능의 하드웨어(HW)가 필수적이다.

인공지능의 대표적인 방법론 중 하나인 머신러닝(ML). AI 성능을 대폭 끌어올린 딥러닝(DL). 인간 뉴런 구조를 본떠 만든 인공신경망(ANN, Artificial Neural Network).

이런 개념들은 80년대에도 활발히 연구됐다. 하지만 실제 구현은 불과 몇 년 밖에 안됐다. 컴퓨팅 성능이 그만큼 받쳐주지 못했기 때문이다. HPC(고성능컴퓨팅), AI 가속기, AI 프로세서, 고성능 메모리장치 등이 등장하면서 본격적인 AI 시대가 문을 열게 된 것이다.

칩러닝(ChipLearning)을 통해 AI를 구현하는 HW, 반도체 또는 '칩'이라고 불리는 HW 산업과 기술을 알아보자.

이 기사는 [AI칩러닝] GPU는 혼자 움직이니?…AI를 위한 CPU의 자격 요건은?②에서 이어집니다.

인텔 제온(Xeon) CPU는 서버 시장에서 독보적인 위치를 차지하고 있다. AMD 에픽(EPYC)과 Arm 네오버스(Neoverse) 등이 추격한다고는 하지만 아직은 갈 길이 멀다.

다만 전 세계 1위 인공지능 클라우드 기업인 아마존웹서비스(AWS)가 AWS 리인벤트(AWS re:Invent) 등 몇몇 발표에서 'CPU는 인텔 제온, GPU는 엔비디아'라는 공식을 벗어난 새로운 선택이 보여지고 있어 업계가 주목하고 있다.

전 세계 1위 기업의 클라우드 서비스에서 AMD 에픽과 Arm 네오버스가 채택되고, 해당 인스턴스의 성능이 보장되면 다른 업체들도 인텔보다 가격경쟁력이 높은 타사 제품을 사용할 가능성이 크기 때문이다.

업계 관계자들은 인텔이 내년에 출시하기로 한 3세대 제온과 AMD가 올해 말 출시한다고 밝힌 3세대 에픽 밀란(Milan)이 시장에 나타나면, 서버용 CPU 시장의 변동이 생길 수도 있을 것으로 전망하고 있다.

◆ 인텔 제온, 더 높은 성능 기대? 보안성에 중점

업계는 인텔 제온 3세대 제품이 내년 초 출시될 것으로 보고 있다. 최근 출시일이 얼마 남지 않은 상황이라 일부 외신 등에서는 관련 스펙이 조금씩 유출되고 있다.

해외 IT 매체 WCCF테크는 얼마 전 긱벤치에서 유출된 3세대 제온의 스펙을 일부 공개했다. 매체는 10나노(nm) 인텔 아이스레이크 기반의 제온이 인텔의 공식적인 공개보다 더 높은 코어 수를 가지고 나올 것이라고 보도했다.

유출된 벤치마크 결과에 따르면 3세대 제온은 36개의 코어와 72개의 스레드를 포함하며 3.6GHz의 클럭 속도를 기록했다.

지난달 인텔은 차세대 제온의 CPU 새로운 성능을 발표하며 AMD의 2세대 에픽 로마 CPU와 비교했다. 인텔에 따르면, 3세대 아이스레이크 제온 CPU는 이전 세대의 캐스케이드 레이크 제온 CPU보다 18% 향상된 IPC 기능을 제공해, AMD의 높은 코어 수 CPU 제품에 비해 경쟁력이 있다는 것이다.

당시 인텔이 공개한 스펙은 32코어와 64 스레드 모델이었다.

하지만 업계에서는 3세대 서버용 CPU에서 성능만으로는 AMD가 앞설 것으로 전망한다.

WCCF테크는 "싱글 코어 점수는 AMD의 2세대 에픽 로마 프로세서와 대등하며, 64코어와 128 스레드 플랫폼인 2P 구성에서 에픽 7542(2세대 로마)에 의해 크게 밀린다"고 지적했다.

64개 코어의 AMD 2세대 로마는 2P 플랫폼에서 128개의 코어와 256개의 스레드를 사용할 수 있기 때문이다. 또한 3세대 밀란 역시 같은 코어에 더 높은 성능이 예상된다.

이에 인텔은 3세대 제온을 공개하기에 앞서 보안성을 강조했다. 개인과 기업의 중요한 정보가 담긴 서버용 CPU인 만큼 보안이 중요하다는 것.

지난 10월 인텔은 아이스레이크의 보안 기능을 통해 고객의 보안 상태를 개선하고 금융 서비스와 의료 분야의 규제 데이터같이 개인 정보나 컴플라이언스와 관련된 리스크를 줄일 수 있는 솔루션을 개발할 수 있다고 강조했다.

리사 스펠만 인텔 데이터 플랫폼 그룹 부사장 겸 제온·메모리 그룹 총괄은 "데이터 보호는 데이터로부터 가치를 추출하는 데 필수적”이라며, “향후 출시될 3세대 제온 스케일러블 플랫폼의 기능을 통해 인텔은 고객이 데이터 기밀성과 무결성을 향상시키는 동시에 가장 어려운 데이터 과제를 해결할 수 있도록 지원할 것"이라고 말했다.

인텔은 컴퓨팅 스택(Compute Stack) 전반에서 데이터 보호를 강조했다. 디스크나 네트워크 트래픽 암호화 등의 기술은 스토리지 내에서, 또는 전송 중에 데이터를 보호하지만, 메모리에서 사용되는 동안에 데이터는 가로채기와 변조에 취약할 수 있다.

기밀 컴퓨팅(Confidential Computing)은 데이터가 신뢰실행환경(Trusted Execution Environment, TEE)에서 사용되는 동안 데이터를 보호하는 방법으로 급부상하고 있다.

인텔 SGX는 시스템 내에서 공격 표면이 가장 작은 데이터 센터 기밀 컴퓨팅을 위해 연구·업데이트됐으며 실전에 대비된 신뢰실행환경(TEE)이다. 사용 중인 환경에서 최대 1TB(테라바이트)의 코드와 데이터를 보호하기 위해 엔클레이브(Enclave)라고 불리는 프라이빗 메모리 영역에서 애플리케이션 격리를 가능하게 한다.

◆ "AMD 서버 CPU, 3~4년 동안 연평균 20%의 성장할 것"

AMD가 서버용 프로세서 시장의 공세를 높이고 있다. 지난 해 공개한 2세대 에픽 로마에 이어, 올해 말 또는 내년초 젠3 아키텍처 기반의 3세대 에픽 '밀란'을 출시한다.

밀란은 TSMC의 7nm+ 공정으로 양산된다. AMD는 기존 7nm 제품보다 성능과 전력효율성이 높아졌다고 말한다.

드빈더 쿠마르 AMD 최고재무책임자(CFO)는 올해 초 서버용 프로세서 시장에서 AMD의 비전을 발표하며 "다수의 재무분석가가 미래 서버 비즈니스의 규모를 볼 때 데이터센터 비즈니스에서 AMD가 30% 이상으로 성장할 것으로 예상했다"며 "향후 3~4년 동안 연평균 20%의 성장률을 보일 것으로 예상하고 있다"고 말했다.

AMD의 현재 데이터센터 비즈니스는 전체 AMD 매출의 10%대 중반이다. 밀란과 그다음 제노바(Genoa) 등을 통해 3~4년 동안 AMD 매출의 약 30%를 달성할 수 있을 것이라는 전망이다.

하드웨어타임즈는 "불과 몇 년 전 AMD가 서버시장에 존재하지 않았던 점을 고려하면 향후 3~4년 동안 예상되는 20%의 연평균 성장은 인상적"이라고 설명했다.

전문가들은 내년에 나올 3세대 밀란도 중요하지만, 4세대 제노바로 서버용 CPU 성능이 크게 올라갈 것으로 전망한다. 일부 매체는 제노바 CPU가 최대 96코어를 탑재할 것으로 보고 있다.

AMD는 지난해 64코어의 젠2 아키텍처 기반의 에픽 로마(Rome) CPU를 공개하며, CPU 코어 한계를 한차례 돌파했다. 인텔의 CPU 중 가장 많은 코어는 56개를 탑재한 제품이다. 2세대 캐스케이드 레이크 제온(Xeon) 플래티넘(Platinum) 9282가 그 주인공.

11월 초 하드웨어타임스는 유명한 유출전문 트위터 익스큐터블픽스(@ExecuFix)의 트윗을 인용하며, 제노바 CPU는 96개의 코어를 갖추고 PCIe 5.0과 DDR5 메모리를 지원한다고 보도했다.

4세대 제노바가 출시될 시점에 PCIe5와 DDR5 등 차세대 표준이 정립될 가능성이 크지만 96코어 CPU의 등장은 업계에서도 이례적인 상황으로 보고 있다.

AMD는 지난 해 64코어의 2세대 로마를 공개하며 성능과 실적이라는 두 마리 토끼를 잡은 경험을 바탕으로 다음 세대인 밀란은 무리겠지만 제노바에서는 96코어에 욕심을 낼 가능성은 충분하다.

3세대 밀란은 2세대 로마와 같은 64개의 코어, 128개의 스레드를 지원할 것으로 알려졌다.

지난해 8월 공개된 2세대 로마는 7nm 공정 기술을 기반으로 최대 64개 코어를 지원하며 다양한 워크로드에서의 소유 총비용(TCO)을 최대 50% 절감한다고 AMD 측은 밝혔다.

이에 AWS, 구글, VM웨어, 마이크로소프트, 트위터, HPE, 레노버 등이 자사의 서버에 2세대 로마 CPU를 도입했다. 또 엔비디아의 DGX A100을 비롯한 다양한 HPC(고성능컴퓨팅) 제품들도 AMD 로마를 적용한 것으로 나타났다.

이를 통해 AMD는 지난해 x86기반 서버 점유율을 5%에서 8%까지 끌어올렸다. 물론 나머지 92%는 인텔 제온 프로세서가 독점하고 있다.

◆ 인텔과 AMD, 두 x86을 위협하는 Arm '네오버스' 생태계

인텔과 AMD가 서버 시장 주도권을 잡기 위해 다투고 있지만, 이 둘과 같은 x86 아키텍처 기반 CPU 외에도 RISC 아키텍처 기반의 CPU도 시장에 존재한다.

대표적인 회사가 바로 Arm.

Arm은 전 세계 스마트폰 시장에서 독점적 지위를 차지하고 있으며, IoT에 쓰이는 MCU, MPU도 대부분이 Arm 기반의 제품들이다. 우리가 잘 아는 PC, 노트북, 서버 쪽으로 진출이 미흡할 뿐이지 전 세계 프로세서 시장에서 높은 영향력을 미치고 있다.

하지만 이것도 옛말이다. Arm이 최근에 활동 영역을 넓혀가고 있기 때문이다.

최근 AWS는 현재 제공 중인 인텔 x86 프로세서 기반 C5 인스턴스보다 40% 이상 성능이 높은 Arm 네오버스 N1 기반의 그래비톤2 프로세서를 사용한 EC2 C6g 인스턴스를 발표했다. 이는 고성능컴퓨팅(HPC)과 AI에 적합한 인스턴스다.

앤디 재시 AWS CEO는 “그래비톤 기반 서비스는 인텔 기반 장비에서 돌아가는 서비스들과 비교해 40% 나은 가격 대비 성능을 보여준다”고 말했다.

Arm의 대표적인 서버 시장용 브랜드는 네오버스(Neoverse)다. Arm은 2018년 네오버스 플랫폼을 공개했다. 제품은 2018년부터 2021년까지 연간 30%의 성능 향상을 제공했다.

당시 ARM이 최초로 선보인 플랫폼은 네오버스 N1과 E1이다. N1은 ARM 코어텍스(Cortex)-A72 CPU보다 60% 더 높은 성능을 제공했다. 특히 빠르게 진화하고 있는 이 분야에서 보다 폭넓은 선택과 유연성에 대한 실질적인 수요를 이끌었다.

11월 Arm은 하드웨어·소프트웨어 개발자들을 위한 컨퍼런스인 Arm 데브서밋(DevSummit) 2020을 개최하며 새롭게 네오버스 V1과 N2를 공개했다.

Arm에 따르면 네오버스 V1 플랫폼은 V시리즈 최초로 N1보다 50% 이상 향상된 싱글 스레드 성능을 제공한다. 또한, 네오버스 N2는 네오버스 N1보다 40% 향상된 싱글 스레드 성능을 제공하면서 네오버스 N1과 동일한 수준의 전력 및 면적 효율을 유지한다.

앞서 언급한 AWS 외에도 최근 네오버스를 채택했거나 하고 있는 시스템이 늘고 있다.

오라클(Oracle)은 2021년 초부터 오라클 클라우드에 해당 암페어 알트라 기반 솔루션을 도입할 계획이라고 발표한 바 있다.

세계에서 가장 빠른 슈퍼컴퓨터 중의 하나인 일본 후가쿠(Fugaku)는 Arm 기술로 구동된다. 에너지 효율을 기준으로 세계 500대 슈퍼컴퓨터를 선정하는 연례 그린(Green) 500 리스트 순위에 따르면, 후가쿠는 가장 효율적인 슈퍼컴퓨터들 중 하나로 꼽힌다.

마이크로소프트 애저(Azure) 개발에 사용된 Arm 기반 썬더X2(ThunderX2)의 뒤를 잇는 마벨(Marvell)의 썬더X3(ThunderX3)는 최대 96개의 사용자 지정(Custom) Arm v8.3 코어로 구성된다.

Arm은 "이는 Arm을 활용한 구현 사례들 중 일부에 불과하다"며 "이렇게 많은 기업들이 Arm의 솔루션을 활용하는 이유는 오늘날 가장 중요한 설계 관련 문제를 해결하는, 즉 동일한 출력에서 더 많은 컴퓨팅을 얻을 수 있도록 하는 혁신적인 방법이기 때문"이라고 설명했다.

AI타임스 양대규 기자 yangdae@aitimes.com