레노버, 기업용 엣지 AI 서비스 출시...'LLM 없이' AI 구동

레노버가 대형언어모델(LLM)에 접속하지 않아도 인공지능(AI) 및 머신러닝(ML) 기능을 사용할 수 있는 '엣지 AI' 서비스 및 솔루션을 발표했다. 기업이 빠르고 저렴하게 AI 기능을 활용할 수 있게 한다는 의도다.

레노버는 21일 ‘엣지 및 AI용 레노버 트루스케일(TruScale)'을 출시, 사용자가 데이터를 생성하는 현장에서 즉시 AI를 사용할 수 있게 했다고 밝혔다.

이를 활용하면 기업은 오프라인 매장나  제조 시설, 병원, 심지어는 주방 및 서비스 데스크 등에서도 AI 기능을 활용할 수 있다. 특히 150개 이상의 턴키 AI 솔루션을 원스톱으로 연결해 준다. 또 사용량만큼 과금하는 결제 방식으로 비용을 최적화할 수 있다는 설명이다.

테크크런치의 보도에 따르면 라틴 아메리카 최대의 참치 어선인 페스카 아즈테카는 배 위에서 이 플랫폼을 사용하고 있다. 이를 통해 연료 및 식품 소비 등에 AI의 도움을 받고 있다는 설명이다.

레노버는 전 세계적으로 데이터양이 기하급수적으로 늘어남에 따라, 효율적인 엣지 컴퓨팅 인프라가 복잡한 AI 배포 방식을 극복하는 데 도움을 주고 있다고 전했다.

수미르 바티아 레노버 인프라스트럭처 솔루션 그룹(ISG) 아시아 태평양 사장은 “레노버는 인텔리전트 트랜스포메이션 시대에 최첨단 엣지 AI 솔루션 출시를 통해 더 많은 사람들이 인텔리전스에 즉각적으로 접근할 수 있도록 혁신을 주도하고 있다”며 “우리의 목표는 AI 배포를 단순화해 언제 어디서나 AI 액세스가 가능하도록 지원하고, 데이터 중심 사회 속 기업들의 비즈니스 성공을 돕는 것"이라고 말했다.

최호주 레노버 글로벌 테크놀로지 코리아(ISG) 부사장은 “인공지능의 발전은 엣지 AI를 강화하고 오늘날 많은 기술적 변화를 불러일으키고 있다“라며 “이번에 출시한 솔루션은 고객들이 실시간으로 엣지에서 데이터를 처리해 비즈니스 효율성을 개선하고 운영 비용을 절약할 수 있도록 지원한다”고 말했다.

이와 관련, 인텔은 20일 신경망처리장치(NPU)를 탑재한 첫 모바일 CPU 탑재, ‘AI PC’를 선보였다. 인터넷 연결 없이도 PC만으로 노래를 생성하고 챗봇과 대화하는 모습을 시연했다.

애플도 자체 칩을 통해 기기에서 바로 AI 기능을 사용할 수 있는 '온바이스 AI'에 집중하고 있다.

임대준 기자 ydj@aitimes.com