어텐션 메커니즘의 대안인 '액체 신경망' 구조로 유명한 리퀴드 AI가 이를 모바일 기기에 접합한 개발자용 SDK를 출시했다. 가볍고 빠른 모델 구조를 활용, 온디바이스로 AI 애플리케이션을 활용할 수 있도록 돕는다.
리퀴드 AI는 15일(현지시간) 새로운 온디바이스 AI 앱 개발 플랫폼 ‘LEAP(Liquid Edge AI Platform)’를 공개했다.
이는 클라우드 모델에 의존하지 않고도 모바일 기기에서 소형언어모델(sLM)을 실행할 수 있게 해주는 크로스 플랫폼 SDK다. 개인 정보 보호와 빠른 반응 속도, 비용 절감 등을 동시에 추구하는 엣지 AI 솔루션이다.
LEAP는 개발 경험이 부족한 이들도 쉽게 활용할 수 있도록 설계됐다. 몇줄의 코드로 iOS나 안드로이드 프로젝트에 통합할 수 있으며, 로컬 모델 호출 방식도 일반적인 API 사용 방식과 유사하다.
라민 하사니 리퀴드 공동 창립자 겸 CEO는 “개발자들은 이제 클라우드 의존을 넘어서 신뢰할 수 있는 엣지 AI 파트너를 원한다. LEAP는 바로 그런 요구에 응답하는 플랫폼”이라고 강조했다.
다양한 기능을 통해 개발자들이 온디바이스 AI를 손쉽게 구현할 수 있도록 설계된 플랫폼이다. 개발자들은 내장된 라이브러리에서 원하는 모델을 선택할 수 있다. RAM이 4GB인 휴대폰에서도 무리 없이 실행할 수 있는 300MB 수준의 초경량 모델도 포함돼 있다.
또 운영 체제나 모델 종류에 관계없이 유연하게 작동한다. 온디바이스 추론, 메모리 최적화, 디바이스 호환성 등을 자동으로 처리해 복잡한 엣지 AI 배포 과정을 간단하게 만들어준다.
특히, 복잡한 코드를 작성하지 않고도 모델을 선택, 수정, 배포할 수 있도록 구성, 머신러닝에 대한 전문 지식 없이도 빠르게 AI 기능을 앱에 통합할 수 있는 것이 장점이다.
SDK 내에는 리퀴드가 자체 개발한 'LFM2(Liquid Foundation Model 2)' 시리즈도 포함됐다. 이 모델은 CPU와 GPU, NPU 최적화 버전으로, ▲3억5000 ▲7억 ▲12억 매개변수로 제공된다. 동시에 속도와 정확도에서 대형 모델과 유사한 성능을 보인다.
더불어, 개발자들이 로컬 환경에서 LEAP 호환 모델을 실험하고 활용할 수 있도록 지원하는 iOS 전용 테스트 앱 ‘아폴로(Apollo)’도 출시했다. 모델의 반응 속도, 문체, 출력 방식 등을 바로 테스트할 수 있으며, 모든 기능은 인터넷 연결 없이 오프라인 상태로 작동한다.
아폴로 앱은 원래 ‘개인 AI 비서 앱’으로 개발됐으나, 리퀴드가 인수 후 LEAP 모델 전용 플랫폼으로 재구성했다. 현재는 개발용 실험 도구이자 프라이버시 중심 AI 앱으로 활용 가능하다.
LEAP SDK는 현재 개발용 라이선스로 무료 제공되며, LFM2 모델도 연 매출 1000만달러 이하 기업 및 학술기관에 한해 무료 상업 사용 가능하다. 더 큰 조직은 별도 라이선스를 통해 사용이 가능하다.
리퀴드는 향후 유료 엔터프라이즈 기능도 공개할 예정이며, 공식 웹사이트를 통해 기업 문의를 받고 있다.
개발자들은 LEAP SDK 웹사이트를 방문하거나, 앱 스토어에서 아폴로 앱을 다운로드하거나 리퀴드 디스코드 커뮤니티에 참여하면 된다.
박찬 기자 cpark@aitimes.com
