인공지능(AI) 전문 래블업(대표 신정규)은 다음달 미국 라스베이거스에서 열리는 ‘CES 2025’에 참가, 딥 러닝 모델을 쉽고 빠르게 서비스할 수 있는 토탈 인퍼런스 솔루션 ‘PALI(Performant AI Launcher for Inference)’를 선보인다고 20일 밝혔다.
PALI의 핵심 장점으로 ▲엔비디아 NIM, 허깅페이스, 캐글 등 다양한 소스의 딥 러닝 모델 지원 ▲앱처럼 쉽게 실행하는 언어 모델, 이미지 생성 모델 등 최신 생성 AI 모델 ▲온프레미스 및 에어갭 환경에서도 쉬운 시스템 구축 및 운영 ▲백엔드닷AI의 기술력으로 엔비디아 GPU 하드웨어 성능 극대화 ▲직관적 사용자-관리자 인터페이스로 편의성 제공 ▲어플라이언스 하드웨어 기반 유연한 확장성 보장 등을 들었다.
PALI를 이용해 최신 AI 모델을 비즈니스에 신속하게 적용할 수 있다고 설명했다.
이미 일본 시장에 판매 중이다. 특히 PALI 제품군은 최신 AI 모델을 비즈니스에 신속하게 적용하고자 하는 기업에게 이상적이라고 전했다.
개발자들은 모델 서빙에 필요한 복잡한 인프라 구축 과정 없이도 곧바로 AI 서비스 개발에 집중할 수 있으며 백엔드닷AI 플랫폼 위에서 압도적 GPU 가속 성능과 유연한 확장성을 바탕으로 대규모 사용자 대상 고성능 AI 서비스를 쉽게 구현할 수 있다고 설명했다.
신정규 래블업 대표는 "AI 기술의 발전이 지속되며 다양한 규모 및 분야에서 AI 서비스와 어플리케이션 수요가 급증하고 있다”라며 "이미 검증된 백엔드닷AI 기술력을 바탕으로 고성능, 고효율 인퍼런스 분야에서도 최상의 플랫폼 솔루션을 제공할 것”이라고 말했다.
장세민 기자 semim99@aitimes.com
