LG유플러스(대표 홍범식)는 LG AI연구원, 옵트에이아이와 협력해 대형언어모델(LLM) ‘엑사원(EXAONE) 3.5’ 기반 온디바이스 소형언어모델(sLM)을 개발했다고 25일 밝혔다.
LG AI연구원이 지난해 12월 선보인 ‘엑사원 3.5 2.4B’ 모델을 기반으로 네트워크 연결없이 스마트폰에서 작동하는 sLM을 개발했다.이는 휴대폰의 NPU(신경망처리장치)를 통해 답변을 제공하는 만큼 빠른 응답이 가능하고 다양한 단말에서 사용할 수 있다는 장점이 있다. 또 전력 소모량은 기존에 비해 78%, 모델 크기는 82%까지 줄일 수 있다.
LGU+는 익시오 앱에 sLM을 탑재, 서비스 고도화에 활용한다는 방침이다. 특히 익시오의 엑사원의 높은 한국어 처리 성능을 활용해 ▲한 줄 요약 ▲상세 요약 ▲키워드 추출 ▲AI 할일 제안 등 기능 고도화에 나설 방침이다.
퀄컴이 이날 공개한 '스냅드래곤8' 칩셋을 기반으로 하는 휴대폰에서 '익시오'를 사용할 경우, 엑사원 기반 온디바이스 sLM을 다운받아 사용할 수 있다. 아이폰으로도 적용 범위를 확대할 예정이다.
이를 위해 10월 사내에서 베타 테스트를 통해 안정성 및 품질을 검증하고, 내년 상반기 상용화에 나설 계획이다.
나아가 LG유플러스와 LG AI연구원, 옵트에이아이 등은 지속적인 온디바이스 AI 기술 개발을 통해 지난 7월 출시된 ‘엑사원 4.0’도 sLM으로 구현할 방침이다.
송대원 LG유플러스 기술개발그룹장은 “세계적으로 인정받고 있는 엑사원의 성능을 유지하면서 온디바이스로 구현될 수 있도록 만든 sLM을 통해 더욱 안전하고 고도화된 AI 서비스를 제공할 수 있게 됐다”라며 “앞으로도 온디바이스 AI 기술 고도화를 지속하여 초개인화된 온디바이스 에이전트를 선보이며 시장 내 선도 사업자로서의 입지를 한층 더 강화하고 차별화된 사용자 경험을 제공할 것”이라고 말했다.
박수빈 기자 sbin08@aitimes.com
