[편집자주]인공지능(AI) 기술의 중심은 소프트웨어(SW) 기술이다. 어떤 모델을 구축하느냐, 어떤 언어를 사용할까, 데이터를 어떻게 분류할 것인가. 이런 질문에 대한 답이 SW에서 나오기 때문이다.
하지만 복잡한 AI SW를 구현하기 위해서는 높은 성능의 하드웨어(HW)가 필수적이다.
인공지능의 대표적인 방법론 중 하나인 머신러닝(ML). AI 성능을 대폭 끌어올린 딥러닝(DL). 인간 뉴런 구조를 본떠 만든 인공신경망(ANN, Artificial Neural Network).
이런 개념들은 80년대에도 활발히 연구됐다. 하지만 실제 구현은 불과 몇 년 밖에 안됐다. 컴퓨팅 성능이 그만큼 받쳐주지 못했기 때문이다. HPC(고성능컴퓨팅), AI 가속기, AI 프로세서, 고성능 메모리장치 등이 등장하면서 본격적인 AI 시대가 문을 열게 된 것이다.
칩러닝(ChipLearning)을 통해 AI를 구현하는 HW, 반도체 또는 '칩'이라고 불리는 HW 산업과 기술을 알아보자.
딥러닝(Deep Learning) 기반으로 성장한 AI 산업에서 CPU는 GPU만큼 '특별한' 의미를 가진 프로세서는 아니었다.
딥러닝 연산을 위한 '인공신경망(ANN)'은 ①수많은 데이터를 ②반복 학습한다. 이를 위해서는 병렬연산이 필요하고, 이는 수천개 이상의 코어(ALU)로 이뤄진 GPU가 유리하다.
하나의 코어의 연산 능력을 높이는 방식의 CPU는 딥러닝에는 부적합하다. CPU 역시 최근 코어가 늘어나는 추세지만 고가의 고성능 CPU 코어를 GPU처럼 수천개씩 붙이는 것은 비용·전력·기술적으로도 여러모로 비효율적이다.
그럼에도 CPU는 AI를 위한 컴퓨팅 구성에 필수적인 요소임에는 분명하다. GPU가 병렬연산에 특화됐지만, 이를 통해 계산된 AI를 제어하는 것은 여전히 CPU의 영역이기 때문이다.
똑똑한 몇몇의 CPU가 제어하면, 수천에서 수만개 ALU로 이뤄진 GPU가 AI를 위해 연산을 수행하는 셈.
또한 최근 AI 개발 트렌드가 비지도학습(Unsupervised Learning), 자기지도학습(Self Supervised Learning) 등 단순 반복 훈련에 연역적 추론을 더하며 CPU가 채택되기도 했다.
서버용 CPU의 경우에는 수십개의 고성능 ALU를 사용하기 때문에 추론에서는 일부 GPU보다 나은 성능을 보이기도 한다.
다만 엔드 포인트 디바이스에서는 추론을 위해 개발된 저전력 AI칩이 사용되고 있기 때문에 CPU의 영향력은 더욱 줄어든다.
즉 AI 시장에서 언급할 수 있는 CPU는 데이터센터에 사용되는 서버용 CPU 시장으로 한정할 수 있다.
대표적인 제품으로는 x86 아키텍처 기반의 인텔 제온(Xeon), AMD 에픽(EPYC), RISC 아키텍처 기반의 Arm 네오버스(Neoverse), IBM 파워(Power)가 있다.
☞[②편으로 이어집니다.]GPU는 혼자 움직이니?…AI를 위한 CPU의 자격 요건은?②
◆x86과 RISC
x86은 데스톱, 노트북, 서버 등에 사용되는 전통적인 아키텍처다. 인텔에서 개발한 8086에 적용된 명령어 세트와 이에 호환되는 프로세서와 후속작 AMD64을 포함한 말이다.
8086은 1978년 출시되어 40년 이상된 32비트 기반의 명령어 세트다. AMD64는 AMD가 1999년 개발한 64비트 확장판 아키텍처다.
인텔과 AMD가 개발한 기술인만큼 두 회사가 x86 CPU 시장을 독점하고 있다.
RISC(reduced instruction set computer) 1970년대에 등장한 프로세서 기술이다. RISC는 명령어가 전부 1워드(word) 길이로 짧다. 고정된 길이의 명령어를 사용하고 명령어의 종류가 미리 정해져 있으므로 해석 속도가 빠르고 여러 개의 명령어를 처리하기에 적합하다.
시스템온칩(SoC) 기반의 스마트폰용 애플리케이션 프로세서(AP)와 데이터센터용 CPU에 주로 사용된다.
대표적인 RISC 기업으로 Arm이 있으며, IBM의 서버용 CPU도 RISC 기반이다. 최근에는 다양한 반도체 기업들이 최신 RISC V 기반으로 자체 프로세서를 개발하고 있다. 애플이 맥북에 탑재한 M1 SoC 역시 RISC 기반 프로세서다.
[AI칩러닝] AI의 핵심, GPU… 딥러닝의 유행을 불러오다 ①
[AI칩러닝] AI의 핵심, GPU… 딥러닝의 유행을 불러오다 ②
AI타임스 양대규 기자 yangdae@aitimes.com
