인공지능(AI) 전문 베슬AI(대표 안재만)는 미국 캘리포니아주 새너제이에서 개최된 'GTC 2025'에 참가해 엔비디아의 기술과 통합사례를 공유했다고 21일 밝혔다.
베슬AI는 이번 GTC에서 엔비디아 NIM 마이크로서비스와 네모(NeMo) 기술 통합 사례를 공유했다.
이를 통해 AI 개발자들은 다양한 LLM 모델을 간편하게 배포하고, 네모 큐레이터의 데이터 관리 기능을 효율적으로 활용할 수 있게 됐다는 설명이다. 기업이 AI 모델을 도입할 때 인프라 관리와 리소스 최적화 문제의 대안이라고 ㅠ강조했다.
특히, GPU 컴퓨팅 비용을 최대 80% 절감하고 AI 모델 배포 시간을 몇주에서 수분으로 단축한 금융, 제조, 모빌리티 등 산업군 사례를 집중 소개했다. 또 기업용 AI 상담 시스템 검색 증강 생성(RAG) 기술과 오케스트레이션 에이전트를 적용해 서비스 처리 속도를 20% 향상하고 응대 품질을 개선한 사례를 선보였다.
2일 차에는 시라스케일, 레코그니 등 AI 인프라 기업들과 네트워킹 리셉션을 공동 주최했다. 시라스케일의 클라우드 컴퓨팅 서비스, 레코그니의 AI 추론 칩, 베슬AI의 ML옵스 플랫폼 등이 결합돼 AI 인프라 스택 전반을 아우르는 기술을 선보이고 협업 기회를 모색했다.
안재만 대표는 "이번 GTC 참가는 글로벌 AI 시장에서 베슬AI의 기술을 알리는 중요한 계기였다"라며 "엔비디아와의 협업을 통해 기업들이 다양한 AI 모델을 체계적으로 통합하고 관리하는 오케스트레이션 솔루션을 제공해 산업별 맞춤형 AI 시스템 구축을 가속화하고 기업의 디지털 혁신을 앞당기는 데 기여하겠다”라고 말했다.
박수빈 기자 sbin08@aitimes.com
