국내 대기업들의 AI 시스템에 FPGA(프로그래밍 가능한 반도체) 도입이 가속화되고 있다.
SK텔레콤이 자일링스 FPGA 기반의 AI 솔루션을 도입한 데 이어, 최근 네이버클라우드도 인텔 FPGA 기반의 클라우드 시스템을 도입한다고 밝혔다.
AI 시스템에 FPGA를 사용하는 것은 다른 반도체와 다르게 '프로그래밍 가능하다'는 FPGA의 특징 때문이다.
FPGA(field programmable gate array)는 CPU나 GPU 등 회로 변경이 불가능한 다른 프로세서와 달리 프로그래밍이 가능한 프로세서로 용도에 맞게 회로를 변경할 수 있다.
FPGA는 비싸고 생산력이 떨어진다는 단점으로 대량 생산이 필요한 애플리케이션에는 잘 사용되지 않고 있다.
하지만 짧은 기간 안에 새로운 모델이 개발되는 AI 시장은 유연한 FPGA를 쓰는 게 비용절감에 유리하다.
◆ SKT, FPGA 기반 AIX로 AI 서비스 품질↑
SKT는 몇 년전부터 AI 가속기 개발을 진행하고 있었다. FPGA를 사용해, 자사 솔루션에 시도하려는 노력을 지속했다.
2018년 SKT는 자일링스 알베오(Alveo) 데이터센터 가속 카드 기반으로 구현한 추론용 가속기 AIX(AI Inference Accelerator)를 통해 자사 AI스피커 누구(NUGU)의 성능을 크게 개선했다.
당시 이강원 SKT 소프트웨어기술원장(현 5GX 클라우드랩스장)은 FPGA를 사용한 AIX(AI Inference Accelerator)를 설명하며, “자일링스의 DSP를 95% 이상 활용했다"며 "보통은 FPGA의 DSP가 특정 유형에 적용됐을 때 사용되는 범위가 60~70% 정도”라고 높은 성능을 자랑했다. 특히 음성인식에서 높은 정확도를 보이고 있다고 이강원 랩스장은 말했다.
지난 해에도 SKT는 FPGA 기반 AIX를 AI 기반 물리적 무단침입 감지 서비스인 티뷰에 적용해 높은 성과를 냈다고 발표한 바 있다.
당시 SKT에 따르면, 자사 데이터센터 서버 상에서 실행되는 알비오 U250 카드는 도난 감지 서비스 데모에서 뛰어난 처리량과 높은 정확도를 제공하는 것으로 확인됐다. 감지 지연시간이 짧고, GPU보다 탁월한 연산속도(초당 프레임)를 제공하며, 비용 측면에서도 더욱 효과적인 것으로 나타났다
지난달 SKT는 FPGA 기반 AIX를 개선한 뒤, 대량 생산을 위해 ASIC(주문형 반도체)으로 생산한 제품인 사피온을 발표했다.
SK텔레콤 관계자는 "내부적으로 2017년부터 (AI 가속기) 개발을 계속했다"며 "누구(NUGU)나 ADT캡스 서버에 개발한 AI 가속기를 적용했다"고 말했다.
관계자는 "지금까지는 저희(SKT) 서버에서만 적용되는 가속기를 만들었는데, 이번에는 일반 데이터 센터에 적용되는 제품으로 내놓게 된 것"이라고 덧붙였다.
◆네이버클라우드, 인텔 FPGA 기반 클라우드 서비스 제공
네이버클라우드도 지난 해부터 인텔 프로그래머블 반도체(이하 FPGA)를 적용한 스마트닉을 자체 개발했다. 국내 클라우드 서비스 사업자 중 FPGA가 적용된 고성능 서버를 제공하는 곳은 네이버클라우드가 유일하다.
14일 네이버클라우드(대표 박원기)가 인텔과 차세대 스마트닉(SmartNIC)과 스토리지 네트워크 가속화 연구·개발을 위한 MOU를 체결했다. FPGA 기반 AI 가속기의 성능을 더욱 끌어올리겠다는 것.
네이버클라우드는 FPGA를 적용한 스마트닉을 가상 프라이빗 클라우드(VPC, Virtual Private Cloud) 서비스 서버에 탑재했다. 보통의 랜카드(NIC, Network Interface Card)는 일반적인 트래픽 처리만 가능하기 때문에 VPC용 네트워크 가상화와 같은 특수한 기능은 수행할 수 없는데, 스마트닉카드는 이러한 한계를 뛰어넘을 수 있다.
스마트닉을 사용하면 소프트웨어로만 트래픽을 처리하는 기존 방식보다 서비스 지연 시간을 2~3배 가량 줄일 수 있다. 또한 기존 대비 20배 이상의 트래픽을 감당할 수 있어 안정적이고, 소비 전력량과 비용 절감 효과도 크다.
네이버 클라우드 플랫폼 서비스의 운영 환경을 고도화하기 위해 소프트웨어 레벨뿐만 아니라 하드웨어를 대상으로 한 기술에도 적극적으로 투자하고 있는 네이버클라우드는 인텔과의 이번 협력을 통해 더욱 강력한 자체 기술 개발 환경을 구축해나갈 계획이다.
양사는 FPGA 개발을 위한 툴, 라이선스, 개발 키트, 인력 등을 상호 지원하고 이를 바탕으로 차별화된 퍼블릭 클라우드 비즈니스 모델을 개발해 나갈 예정이다.
박원기 네이버클라우드 대표는 “네이버클라우드는 FPGA 기술 연구와 내재화를 통해 기존 상용 제품 대비 확장성을 높이고 차별화된 클라우드 기능을 갖춰 고객에게 더 많은 가치를 제공할 수 있게 됐다”며 “앞으로도 인텔과의 협력을 통해 다방면의 투자 및 연구를 진행할 예정"이라고 밝혔다.
권명숙 인텔코리아 대표는 “인텔 FPGA는 최상의 전력 효율성과 성능을 바탕으로 엣지는 물론 클라우드 전반에서 활용할 수 있는 맞춤형 하드웨어"라며 "고객은 이를 통해 단가, 성능, 전력 소비량, 시장 출시 기간을 최적화 할 수 있다”고 전했다.
인텔은 지난 2015년 알테라를 인수하며 FPGA 기술을 확보했다.
AI타임스 양대규 기자 yangdae@aitimes.com
