파수(대표 조규곤)가 기업용 소형언어모델(sLM) ‘파수 ELLM’을 출시, 기업 및 기관의 인공지능(AI) 구축 및 활용을 돕겠다고 5일 밝혔다.
파수 온프레미스 구축형 ELLM은 조직 특성에 맞는 생성 AI를 구축해 보고서 작성 및 문서 요약, 내부 데이터 분석, 지식창고 운영, 고객 응대 등 업무 생산성 및 효율성의 혁신을 목표로 한다. 글로벌 데이터 보안 및 관리 역량을 결합했다는 설명이다.
특히 고객별 도메인 사전 특화 학습(DAPT)과 태스크별 미세조정 학습으로 맞춤 결과물을 제공한다. 멀티홉 추론 방식을 채택해 사용자 요청을 분석, 태스크를 분류하고 각각 최적의 프롬프트를 적용한다.
RAG(검생증강생성) 방식으로 필요에 따라 외부 검색 엔진 혹은 내부 시스템의 검색 기능과 연계도 가능하다. 보안과 속도 측면에서 차세대 프로그래밍 언어로 떠오르고 있는 Rust를 기반으로 IO 멀티플렉싱(처리 다중화) 방식을 도입, 요청 처리 속도까지 향상시켰다고 전했다.
무엇보다 내부구축형(프라이빗, 온프레미스) AI 도입을 원하지만 학습에 필요한 내부 데이터를 제대로 관리하지 못하는 대부분의 조직에게 유용하다고 강조했다.
이용자의 환경과 목적에 따라 파수의 ELLM과 관련 기술을 결합, AI 학습에 필요한 복잡한 과정을 최소화하고 기존 메타데이터 정보를 연동할 수 있어 보다 안전하게 생성 AI를 사용할 수 있다.
윤경구 파수 전무는 “ELLM으로 내부 데이터 수집부터 관리, 보안, AI 활용에 이르는 과정을 통합지원해 고객의 성공적인 AI 활용을 현실화한다”라며 “이번 출시를 시작으로 ‘기업 AI 활용을 돕는 AI 기업’으로서 가장 필요한 솔루션과 서비스를 지속적으로 선보일 예정”이라고 말했다.
장세민 기자 semim99@aitimes.com
