엔터프라이즈 보안 솔루션 전문 파수가 기업용 소형언어모델(sLLM) ‘엘름(ELLM)’을 공개했다.
파수(대표 조규곤)는 3일 여의도 페어몬트 엠배서더 서울 그랜드볼룸에서 연례 고객행사 “2024 FDI 2024’를 개최, 기업용 sLLM, 엘름을 중심으로 사업 전략 및 솔루션 소개를 진행했다.
첫번째 세션은 조규곤 파수 대표가 막을 열었다. 최근 생성 인공지능(AI)의 혁신적 임팩트를 강조하며 “기업들은 현재 문서화를 넘어 대형언어모델(LLM)화로 넘어가는 과정에 있다”라고 말했다.
특히 2000년 창립 이래 기업 보안 솔루션을 주축으로 달려온 만큼, ‘LLM’ 시대의 보안 문제를 강조했다. 최근 화두인 퍼블릭 LLM과 프라이빗 LLM의 옵션에 따라 각각 보안, 비용 등 한계점이 발생할 수밖에 없다는 것이다. 그 해결책으로 엘름을 내놓았다는 설명이다.
윤경구 파수 본부장은 두번째 세션에서 엘름의 기능, 차별점, 아키텍처를 자세히 설명했다. 특히 기업 데이터 및 공통 데이터 사전학습부터 RAG(검색증강생성)와 벡터화 적용, 불필요한 정보 제거와 보안 필터링 등 기업 내 LLM 구축에 최적화한 ‘올인원 차별화 기능’을 강조했다.
우선 엘름은 구글의 젬마-7B 기반 모델을 바탕으로 ‘한국어 트레이닝’ ‘지시사항 특화 트레이닝’ ‘인간 선호도 특화 트레이닝’ 등 장기간 미세조정을 마친 파운데이션 모델이다. 기업 수요가 가장 많은 영어, 한국어 정보를 모두 처리할 수 있도록 한국어 학습에 초점을 맞췄다고 덧붙였다.
총력을 기울인 부분은 역시 보안이다. 언어모델의 기본적 성능을 위한 공통데이터셋 지원은 물론 ‘도메인별 특화 학습 데이터셋’, 그리고 기업 내부 데이터까지 모두 안전하게 사전학습이 가능하다. 데이터 관리 역량이 부재하지만 프라이빗, 온프레미스 LLM 구축을 원하는 기업에게 유용하다는 설명이다.
이후 챗봇 등 다양한 애플리케이션으로 고도화, 질의응답을 진행할 경우에도 ‘엘름 CX’ 기능을 통해 다중 필터를 적용한다. 불필요한 정보를 담은 ‘가비지’ 제거는 물론 독성 데이터 정제 기능까지 수행할 수 있다. OCR(광학문자인식)과 NER(개인정보탐지) 기술을 탑재한 자체 ‘AI-R 프라이버시 모델’을 이용해 중요 개인정보를 필터링할 수도 있다.
문서 기반 대화에도 유용하다고 전했다. 여러 문서 파일을 업로드, 각각 비교 분석 해달라고 요청할 경우 LLM 내부에서 ‘멀티홉 구조’로 프롬프트 분석을 진행한다. 문서의 내용을 정확하게 분석, 이후 통합 답변을 내놓을 수 있는 구조다. 엘름 솔루션 내부에서 텍스트LLM, 이미지LLM, 코드LLM 등 소형언어모델은 물론 챗GPT, 클로드, 제미나이 등 클라우드LLM까지 모두 ‘자동 큐레이션’ 형태로 이용할 수 있다.
김용길 파수 본부장은 “LLM 구축을 위해서는 유효 데이터 확보, 적합한 품질의 데이터 확보, 최신 데이터 확보, 권한 필터링 등 다수의 요소가 필요하다”라며 강점을 소개했다.
한편 파수는 문서 관리 솔루션 ‘랩소디(Wrapsody)’에서도 ‘대화형 인터페이스(UI)’를 만나볼 수 있도록 LLM을 접목하고 있다. 향후에는 개인 메모까지 채팅형 AI로 관리할 수 있는 플랫폼, ‘데이터페이지’를 전면 내세울 예정이다.
오는 4월에는 랩소디의 온프레미스 및 프라이빗 클라우드 환경 지원을 시작할 예정이다. 6월에는 랩소디의 퍼블릭 클라우드를 지원, 동시에 디지털페이지 AI기능도 전격 선보인다고 밝혔다.
행사장에서는 관련 솔루션을 모두 시연, 많은 관람객이 모였다.
장세민 기자 semim99@aitimes.com
