3일 간담회 연사를 맡은 나승주 인텔코리아 상무가 3세대 제온 CPU를 들고 있다. (사진=인텔)
3일 간담회 연사를 맡은 나승주 인텔코리아 상무가 3세대 제온 CPU를 들고 있다. (사진=인텔)

"제온(Xeon)은 인공지능(AI) 가속 명령을 내장한 유일한 데이터 센터용 프로세서"

나승주 인텔코리아 상무는 AI 성능이 향상된 3세대 인텔 제온 스케일러블 프로세서를 공개하며 이같이 말했다.

7일 인텔은 데이터센터용 CPU인 3세대 제온 스케일러블 프로세서를 공개하며 기자들을 대상으로 온라인 간담회를 개최했다.

이날 연사로 참석한 나승주 상무는 3세대 제온이 최근 발표된 AMD 에픽 밀란(EPYC Milan)보다 높은 AI 성능을 보여준다고 강조했다.

인텔의 발표에 따르면 딥러닝 부스트를 내장한 40코어 3세대 제온이 64코어 AMD 에픽 7763보다 20개 AI 워크로드에서 1.5배 더 높은 성능을 기록했다.

에픽 7763은 밀란 제품 중 최고 사양 모델로 64코어를 제공한다.

인텔 3세대 제온은 최대 40코어를 지원한다. AMD보다 더 낮은 코어 수를 지녔지만 AI 성능은 더 높다는 것.

인텔은 또한 3세대 제온이 엔비디아 최신 A100 GPU보다도 1.3배 더 높은 성능을 보였다고 말했다.

나 상무는 "대부분의 데이터 과학자들은 단하나의 워크로드만을 사용하지 않는다"며 "인텔은 최근 캐글(Kaggle) 설문조사를 참조해 학습과 추론을 포함한 가장 많이 사용되는 머신러닝과 딥러닝 모델 20개를 폭넓게 선정해 AI 성능을 측정했다"고 설명했다.

인텔에 따르면 3세대 제온 CPU는 AMD 에픽 밀란 CPU와 엔비디아 A100 GPU보다 높은 AI 처리 성능을 보였다. (사진=인텔간담회 캡처)
인텔에 따르면 3세대 제온 CPU는 AMD 에픽 밀란 CPU와 엔비디아 A100 GPU보다 높은 AI 처리 성능을 보였다. (사진=인텔간담회 캡처)

인텔은 빌트인 AI 가속기로 AI 성능을 향상했다고 밝혔다. AI 성능, 생산성, 단순성을 제공해 고객이 데이터에서 보다 가치 있는 통찰력을 얻을 수 있도록 지원하겠다는 것.

나승주 상무는 "소프트웨어도 하드웨어만큼 중요하다. 이는 곧 데이터 전문가의 생산성으로 직결된다"며 "원API를 기반으로 최적화한 SW를 사용해 3세대 제온에서 종단간 데이터 사이언스를 매끄럽게 만들어 데이터 전문가들은 스마트한 모델을 더욱 빠르게 만들 수 있다"고 강조했다.

단순 3세대 제온 하드웨어 능력뿐만 아니라 인텔의 소프트웨어 파워가 전체적인 AI 성능을 향상시켜준다는 것.

원API는 인텔 CPU, GPU, FPGA 등 다양한 프로세서 집합(XPU)을 최적화시켜주는 오픈소스 기반 툴이다.

앞서 라자 코두리(Raja Koduri) 인텔 수석 부사장 겸 수석 아키텍트·그래픽 소프트웨어 부문 총괄은 “인텔의 소프트웨어 개발 도구를 CPU에서 GPU와 FPGA로 확장하는 것은 인텔이 XPU로 가는 여정에 핵심적인 단계”라며 원API를 소개한 바 있다.

국내 기상청 슈퍼컴퓨터 5호기 CPU로 인텔 제온 3세대가 채택됐다. (사진=인텔간담회 캡처)
국내 기상청 슈퍼컴퓨터 5호기 CPU로 인텔 제온 3세대가 채택됐다. (사진=인텔간담회 캡처)

인텔 3세대 제온 프로세서는 이미 현장에 적용되고 있다. 그 대상은 국내에서 개발 중인 '기상청 슈퍼컴퓨터 5호기'다.

나승주 상무는 "기상청 슈퍼컴퓨터 5호기는 3세대 프로세서 기반으로 구축이 진행 중"이라며 "올해 6월까지 설치를 마무리한 후 올 하반기부터 본격적으로 가능할 예정"이라고 말했다.

이어 "3세대 제온프로세서를 채택해 현재 운영 중인 시스템 대비 약 8배 정도 더 빠른 50페타플롭스(PF, petaflops, 초당 1000조 회 연산)의 성능을 자랑한다"고 덧붙였다.

현재 한국 최고 슈퍼컴퓨터는 과학기술정보연구원(KISTI)이 개발한 누리온이다. 역 25.7PF로 전 세계 21위를 기록했다. 

누리온은 지난 2018년 6월 11위를 기록했으나, 컴퓨팅 성능이 증가하면서 점점 순위에 밀리고 있는 상황이다.

만약 3세대 제온 기반의 기상청 슈퍼컴퓨터 5호기가 50PF의 성능을 보이면, 전 세계 7위까지 올라갈 전망이다.

지난해 기준 전 세계 슈퍼컴퓨터는 일본 후가쿠(Fugaku)가 442PF로 1위를 기록했으며, 10위권 내에 국내 슈퍼컴퓨터는 없는 것으로 나타났다.

지난해 11월 기준 슈퍼컴퓨터 성능 순위 (이미지=스타티스타)
지난해 11월 기준 슈퍼컴퓨터 성능 순위 (이미지=스타티스타)

인텔 3세대 제온은 기상청 슈퍼컴퓨터 외에도 전 세계 클라우드와 다양한 고성능컴퓨팅(HPC)에 공급되고 있다.

인텔은 1분기에는 20만 대 이상의 매출을 달성했으며, 여러 클라우드 서비스 공급 업체를 비롯한 모든 시장 부문에서 광범위한 도입이 이루어지고 있다고 밝혔다. 

또한 20개 이상의 HPC 랩과 서비스형 HPC(HPC-as-a-service) 환경에서 인텔의 최신 제온 스케일러블 프로세서를 활용하고 있다고 전했다.

AI타임스 양대규 기자 yangdae@aitimes.com

[관련기사] AMD 밀란 공개…서버 CPU '절대강자' 인텔 제온 위협할까?

[관련기사] [AI칩러닝] GPU는 혼자 움직이니?…AI를 위한 CPU의 자격 요건은?①

관련기사
저작권자 © AI타임스 무단전재 및 재배포, AI학습 및 활용 금지