딥시크 서비스를 도입하고 싶어도 보안 우려로 망설이는 기업이 많은 가운데, 국내 스타트업 프렌들리AI가 이런 우려를 씻는 서비스를 출시했다고 발표했다.
프렌들리AI는 최근 ‘프렌들리 서버리스 엔드포인트’를 통해 딥시크AI 모델을 사용할 수 있는 서버리스 API를 발표했다고 20일 밝혔다.
딥시크는 오픈AI의 '챗GPT'에 필적하는 성능의 모델을 무료로 사용할 수 있도록 허깅페이스에 오픈 소스로 공개했다. 이에 따라 기업들은 저렴한 API 사용료를 지불하며 딥시크 서비스를 이용할 수 있지만, 개인정보가 중국 서버로 넘어가는 등의 보안 문제가 생긴다.
프렌들리AI의 서버리스 API는 이런 보안 문제를 해결하는 서비스다. 특히, 딥시크 모델을 서버리스 API로 제공하는 기업으로 국내 최초다. 세계적으로도 아마존이나 마이크로소프트(MS) 등 빅테크 몇곳 밖에는 없다.
프렌들리 AI는 딥시크 AI 모델을 정보 유출 우려 없는 서버에서 안전하게 관리한다. 기업의 정보가 딥시크의 중국 서버로 넘어가지 않는다고 강조했다.
사용 속도도 훨씬 더 빨라진다는 설명이다. 프렌들리AI의 고유한 추론 가속화 기술로 딥시크 AI 모델을 기존 속도보다 빠르게 사용할 수 있다.
비용도 합리적이라고 밝혔다. 사용한 만큼 지불하는 구조로 이뤄져 있어, 기업 입장에서는 성능이 우수하고 가성비까지 뛰어난 딥시크 모델을 자유롭게 활용할 수 있게 된다는 설명이다. 특정 목적에 따라 수정한 모델을 배포하는 것 역시 가능하다.
한편, 프렌들리AI는 AI 가속화 기술로 국제적인 주목을 받고 있다고 전했다. 아티피셜 애널리시스(Artificial Analysis) 벤치마크 결과에서 전 세계 GPU API 제공사 중 1위의 출력 속도를 검증했다고 소개했다.
이런 기술력을 인정받아 허깅페이스에 배포 옵션으로 탑재됐다. 클릭 한번으로 허깅페이스에 있는 모델을 프렌들리AI로 배포해 사용할 수 있다. 허깅페이스 배포 옵션 파트너는 AWS, MS 애저, 구글, 엔비디아 등이었는데, 스타트업으로는 세계에서 처음으로 프렌들리AI가 포함됐다.
프렌들리AI는 ‘딥시크 쇼크’의 핵심은 고성능 AI 개발이 더는 ‘자본 싸움’이 아니라는 패러다임 전환이라고 분석했다. 딥시크 쇼크 이후로 AI 시장의 성장 속도는 더욱 탄력을 받아, 오픈 소스 모델 기반 다양한 AI 개발이 이뤄지고 있다는 것이다. 그런데, AI 모델을 만든 뒤 결국 부딪히는 문제는 만든 모델을 호스팅해 운영하는 것이라고 지적했다.
이 회사는 다양한 산업 분야와 기업 규모에 걸쳐 AI 서비스 가속화와 자동화를 제공한다. AI 서비스 규모가 커질수록 함께 커지는 ‘필수 인프라’ 서비스인 셈이라서, AI 서비스 기업들이 프렌들리AI 덕분에 빠르게 성장하고 있다고 전했다. 실제 북미와 국내에서 헬스케어, 통신, 가전, 글쓰기, 소셜, 영상 등 다양한 분야의 AI 기업에 최적의 인프라 서비스를 제공하고 있다고 전했다.
전병곤 프렌들리AI 대표는 “딥시크 쇼크 이후로 많은 비용을 들이지 않아도 훌륭한 생성 AI 서비스를 만들 수 있다는 인식의 전환이 이뤄지면서, 더 많은 기업들이 프렌들리AI 서비스를 사용하고 있다”며 “프렌들리AI 서비스로 기업들이 AI를 활용해 도약하는 것을 돕고 싶다”라고 말했다.
박수빈 기자 sbin08@aitimes.com
