[AI칩러닝] GPU를 대신할 새로운 AI 반도체는? ① FPGA

지금 개발된 고도화된 AI 기술 구현에는 GPU(그래픽처리장치)의 공이 컸다.

GPU의 원래 목적은 컴퓨터 그래픽 처리다. AI용으로 GPU를 쓰는 이유는 그래픽 처리와 AI 연산이 비슷한 방법으로 이뤄지기 때문이다.(관련기사 = [AI칩러닝] AI의 핵심, GPU… 딥러닝의 유행을 불러오다 ①)

다만 전문가들은 GPU의 원래 목적이 AI 연산은 아니기 때문에 비용이나 전력소모 등 비효율적인 부분이 발생한다고 지적한다. 

이를 극복하기 위해 최근에는 FPGA를 사용하거나 NPU, TPU 등 새로운 프로세서를 개발해 사용하고 있다. 일부에서는 뉴로모픽(neuromorphic), 양자 컴퓨터 등 차세대 기술을 개발하는 중이다.

◇ FPGA, 재프로그래밍할 수 있어 빠르게 변하는 AI 기술에 적합한 반도체

GPU를 대체하는 가장 대표적인 솔루션은 FPGA(field programmable gate array)다. FPGA는 CPU(중앙처리장치)나 GPU와 같은 주문형반도체(ASIC, Application Specific Integrated Circuit)와 다르게 칩 내부의 하드웨어를 필요에 따라 재프로그래밍할 수 있다. 

용도에 따라 다시 회로를 여러 차례 변경할 수 있다는 것.

FPGA의 이런 특성은 AI 기술 개발 트렌드와도 잘 맞는다. 

AI 기술은 그야말로 급변하고 있다. 불과 몇 주 사이에도 AI 기술 전체를 관통하는 굵직한 연구 결과들이 발표된다.

FPGA를 사용하면 빠른 AI 기술 변화에 즉각적인 대응을 할 수 있다. 소프트웨어(SW)와 하드웨어(HW) 사이에 변화의 차이는 있겠지만, 기술이 바뀌면 다시 생산해야 하는 다른 프로세서와는 큰 차이가 있다.

이에 전 세계 FPGA 시장 1위 기업인 자일링스는 빠르게 변화하는 AI 시장에 가장 적합한 프로세서가 FPGA라고 강조하기도 했다.

유세프 칼릴롤라히(Yousef Khalilollahi) 자일링스 부사장은 지난해 12월 "(AI 시대는) 변화 속도가 매우 빠르다"며 "가장 적응을 잘하고 가장 탄력적인 시스템이 살아남을 것"이라고 말했다. 이어 적응형 솔루션을 갖춘 기업들은 역동적인 시장환경에서 혜택을 누리게 될 것"이라고 덧붙였다.

FPGA는 발열에서도 GPU보다 유리하다. 

GPU는 수천 개의 코어를 집약한 프로세서다. 밀집된 수천 개의 코어는 병렬연산을 하는 동안 엄청나게 많은 열을 발생시킨다. 이는 곧 냉각을 위한 시스템의 추가로 인한 비용과 전력소모량 증가라는 단점으로 이어진다.

FPGA는 하드웨어를 AI 모델에 맞게 조절할 수 있어 전력 효율을 높일 수 있다.

또한 FPGA는 GPU와 다르게 병렬연산뿐만 아니라 기본 연산 성능을 높이게 설계할 수 있다. 이는 훈련(training)이 아닌 추론(inference) 영역까지 확장을 할 수 있다는 것.

단점도 있다. 다양한 기능을 구현할 수 있기에 FPGA는 개별 비용이 비싸다. 대량 생산에 적합하지 않다는 것.

이에 업체들은 FPGA를 이용해 AI용 반도체를 개발하고, 성과가 나오면 해당 설계를 바탕으로 ASIC으로 대량생산을 한다. 실제로 FPGA는 AI 외에도 TV, 스마트폰 등 다양한 상품에서 프로토타입(Prototype, 시제품)이나 일차 생산 제품용으로 주로 사용된다.

◇ SKT, FPGA로 선개발 후 ASIC AI칩 '사피온 X220' 생산

국내 SK텔레콤은 FPGA를 이용해 AI용 가속기를 개발한 뒤, ASIC으로 대량 생산한 대표적인 사례 중 하나다.

SKT는  2018년 자일링스 알베오(Alveo) 데이터센터 가속 카드 기반 추론용 가속기 AIX(AI Inference Accelerator)를 개발했다. 이를 통해 SKT는 자사 AI 스피커 누구(NUGU)와 AI 기반 물리적 무단침입 감지 서비스 '티뷰'에 적용해 높은 성과를 냈다고 발표했다.

지난해 11월 SKT는 수년간의 FPGA 사용 노하우를 바탕으로 AI칩 ‘사피온 X220’을 공개했다. 

ASIC으로 생산되는 사피온 X220은 범용 PCIe 기반의 가속 카드다. PCIe라는 표준 기술을 기반으로 SKT뿐만 아니라 여러 데이터센터에 즉시 적용할 수 있다.

SKT는 "현재 대다수 기업들은 GPU를 활용해 AI 데이터센터를 운영하고 있지만, 비싼 GPU 가격과 큰 전력 사용량으로 인해 발생하는 높은 운영 비용에 부담을 느끼고 있어 AI 반도체에 대한 시장의 기대가 높다"며 사피온 AI칩을 개발한 배경을 밝혔다.

SKT는 사피온 X220이 추론용 엔비디아 T4 GPU보다 딥러닝 연산 속도가 1.5배 빠르다고 전했다. 아울러 가격은 절반 수준으로 낮췄으며, 전력 사용량도 80%로 줄였다고 설명했다.

업계 전문가들은 최근 채굴 등으로 GPU 가격이 상승하고 있는 가운데, FPGA는 이를 대신할 수 있는 가장 보편적인 프로세서라고 설명한다. 

다양한 기업들이 자기들만의 기준으로 만들고 있는 NPU(신경망처리장치)나 구글이 비밀리에 만들고 있는 TPU를 비롯한 다양한 xPU들과 다르게 오랜 역사를 가진 검증된 프로세서이기 때문이다.

AI타임스 양대규 기자 yangdae@aitimes.com

[관련기사] AI와 딥러닝에서 FPGA가 GPU보다 나은 이유는?

[관련기사] SKT, 통신사를 넘어 AI칩 사피온 개발…구글·AWS와 비슷한 행보?