구글 TPU, 아마존 인퍼런시아에 이어, SKT도 AI 가속기 출시
SKT, "2017년부터 AI칩 개발 진행…FPGA기반 AI가속기로 효과 증명"
"사피온 X220, 엔비디아 T4 GPU보다 ResNet50에서 1.5배 빨라"

 

구글, 아마존에 이어 국내 비반도체 기업인 SKT도 AI칩을 만들어 주목받고 있다. (원본=셔터스톡)
구글, 아마존에 이어 국내 비반도체 기업인 SKT도 AI칩을 만들어 주목받고 있다. (원본=셔터스톡)

Q. 글로벌 IT 기업 구글, 아마존과 한국 통신사 SK텔레콤, 세 회사의 공통점은?
A. 반도체 회사가 아닌데도 인공지능(AI) 칩을 설계한 기업이라는 것

구글은 훈련용 TPU(텐서플로처리장치), 아마존은 추론용 '인퍼런시아(Inferentia)'를 개발해 자사 서비스에 활용했다. 

SKT는 자체 개발한 추론용 AI 가속기 사피온(SAPEON) 시리즈를 25일 공개했다.

◆ SKT, "2017년부터 AI칩 개발해…FPGA기반 AI가속기로 효과 증명"

'통신사가 반도체를 왜 개발할까'라고 궁금해하는 사람도 많겠지만, 실제로 SKT는 몇년전부터 AI 가속기 개발을 진행하고 있었다. 

프로그래밍 가능한 반도체인 FPGA를 사용해, 자사 솔루션에 시도하려는 노력을 지속했다. 2018년 SKT는 자일링스 알베오(Alveo) 데이터센터 가속 카드 기반으로 구현한 추론용 가속기 AIX(AI Inference Accelerator)를 통해 자사 AI스피커 누구(NUGU)의 성능을 크게 개선했다.

이강원 SKT 클라우드랩스장이 자사의 AIX 솔루션을 설명하고 있다.(사진=자일링스)
이강원 SKT 클라우드랩스장이 자사의 AIX 솔루션을 설명하고 있다.(사진=자일링스)

당시 이강원 SKT 소프트웨어기술원장(현 5GX 클라우드랩스장)은 FPGA를 사용한 AIX(AI Inference Accelerator)를 설명하며, “자일링스의 DSP를 95% 이상 활용했다"며 "보통은 FPGA의 DSP가 특정 유형에 적용됐을 때 사용되는 범위가 60~70% 정도”라고 높은 성능을 자랑했다. 특히 음성인식에서 높은 정확도를 보이고 있다고 이강원 랩스장은 말했다.

지난 해에도 SKT는 FPGA 기반 AIX를 AI 기반 물리적 무단침입 감지 서비스인 티뷰에 적용해 높은 성과를 냈다고 발표한 바 있다. 

당시 SKT에 따르면, 자사 데이터센터 서버 상에서 실행되는 알비오 U250 카드는 도난 감지 서비스 데모에서 뛰어난 처리량과 높은 정확도를 제공하는 것으로 확인됐다. 감지 지연시간이 짧고, GPU보다 탁월한 연산속도(초당 프레임)를 제공하며, 비용 측면에서도 더욱 효과적인 것으로 나타났다

25일 발표한 사피온은 FPGA 기반 AIX를 개선한 뒤, 대량 생산을 위해 ASIC(주문형 반도체)으로 생산한 제품이다.

SK텔레콤 관계자는 "내부적으로 2017년부터 (AI 가속기) 개발을 계속했다"며 "누구(NUGU)나 ADT캡스 서버에 개발한 AI 가속기를 적용했다"고 말했다. 

관계자는 "지금까지는 저희(SKT) 서버에서만 적용되는 가속기를 만들었는데, 이번에는 일반 데이터 센터에 적용되는 제품으로 내놓게 된 것"이라고 덧붙였다.

사피온은 PCIe 기반의 AI 가속기로 다양하게 활용할 수 있다. (이미지=SKT)
사피온은 PCIe 기반의 AI 가속기로 다양하게 활용할 수 있다. (이미지=SKT)

 

◆ 김윤 CTO, "국내 최초 데이터센터용 AI 반도체 출시…글로벌 톱 AI 기업 될 것"

이날 SKT는 25일 일산 킨텍스에서 열린 ‘한국판 뉴딜, 대한민국 인공지능을 만나다’에서 자체 개발한 세계 최고 수준의 데이터센터용 AI 반도체를 선보이고 향후 AI 반도체 사업 비전을 밝혔다.

이날 행사에 참석한 김윤 SKT CTO는 “국내 최초 데이터센터용 AI 반도체 출시는 SKT 기술력과 서비스 역량, 정부의 적극적인 지원, 중소기업과 협력을 통해 이뤄낸 쾌거”라며 “향후 AI 반도체와 SKT가 보유한 AI, 5G, 클라우드 등 기술을 접목해 글로벌 톱 수준의 AI 기업으로 성장할 것”이라고 말했다.

행사에서 SKT는 AI칩 ‘사피온 X220’을 공개했다. 사피온 X220은 ASIC으로 생산되, 범용 PCIe 기반의 가속 카드다. SKT뿐만 아니라 여러 데이터센터에 즉시 적용할 수 있다는 것이다.

SKT는 "현재 대다수 기업들은 GPU를 활용해 AI 데이터센터를 운영하고 있지만, 비싼 GPU 가격과 큰 전력 사용량으로 인해 발생하는 높은 운영 비용에 부담을 느끼고 있어 AI 반도체에 대한 시장의 기대가 높다"며 사피온 AI칩을 개발한 배경을 설명했다.

실제로 최근에는 엔비디아 GPU의 가격에 부담을 느낀 아마존은 자체 개발한 인퍼런시아 가속기로 비용을 30% 낮추며 속도도 25% 끌어올렸다고 밝혔다.

사피온 X220의 성능 (자료=SKT)
사피온 X220의 성능 (자료=SKT)

◆"사피온 X220, 엔비디아 T4 GPU보다 ResNet50에서 1.5배 빨라"

SKT는 사피온 X220이 추론용 엔비디아 T4 GPU보다 딥러닝 연산 속도가 1.5배 빠르다고 설명했다. 아울러 가격은 절반 수준으로 낮췄으며, 전력 사용량도 80%로 줄였다고 강조했다.

SKT 관계자는 "엔비디아 사이트를 통해 T4 GPU와 비교를 했다"며 "ResNet50 벤치마크에서 1.5배 빠른 성능을 보였다"고 말했다. 

SKT는 AI 가속기 브랜드 사피온을 정식 론칭했다. SKT는 인류를 뜻하는 'SAPiens(사피엔스)'와 영겁의 시간을 뜻하는 'aEON(이온)'의 합성어라고 설명했다. 인류에게 AI 반도체 기반 인공지능 혁신의 혜택을 지속 제공하겠다는 의지를 담았다는 것.

SKT 관계자는 "핵심이 되는 코어는 SKT 개발했으며, 전문 기업들과 힘을 합쳐 칩을 만들었다"고 전했다.

반도체 디자인, 서버 시스템 제작, 클라우드 소프트웨어 개발은 ‘에이직랜드’, ‘KTNF’, ‘두다지’ 등 중소 반도체 기업들과 협력했다.

SKT는 AI 반도체 핵심 코어 설계 역량을 바탕으로 정부, 반도체 관련 대·중소기업과 협력해 글로벌 AI 반도체 시장에 본격 진출할 계획이다.

[관련기사] SKT, 삼성전자와 협력...‘차세대 클라우드 코어망’ 국제 표준 기술 적용

[관련기사] AI와 딥러닝에서 FPGA가 GPU보다 나은 이유는?

키워드 관련기사
  • [AI칩러닝] AI의 핵심, GPU… 딥러닝의 유행을 불러오다 ①
  • 자일링스, 대규모 5G 무선 구축을 유연한 반도체 출시
  • 개발자 편의를 위한 'AI 하드웨어' 솔루션들