인공지능(AI) 전문 올거나이즈(대표 이창수)는 기업이 데이터 유출 걱정 없이 내부에서 대형 언어 모델(LLM)을 활용할 수 있는 솔루션 ‘알리 LLM옵스(LLMOps)’를 출시했다고 14일 밝혔다.
알리 LLM옵스는 오픈 소스 LLM을 활용해 기업이 사내 구축형으로 AI 모델을 선택하고 활용할 수 있는 서비스로, 민감한 개인정보를 다루거나 데이터 유출을 걱정하는 기업들을 위해 맞춤형으로 출시했다.
알리 LLM옵스를 활용하면 올거나이즈의 자연어 기반 인지 검색 솔루션인 '알리(Alli)'에서 노코드 기반 LLM 애플리케이션을 쉽게 개발할 수 있다. 기업 고객은 상황에 잘 맞은 언어 모델을 선택하고, 개발 현장에 노코드로 바로 반영 가능하다. 비개발자 역시 단 시간 안에 애플리케이션을 완성할 수 있을 만큼 직관적인 UI를 갖추고 있으며, 회계·인사·마케팅 등 직무별 업무 자동화 LLM 애플리케이션을 개발할 수 있다.
알리에서 업무 자동화 시나리오를 만들 때에도 원하는 LLM을 선택해 활용하면 된다. '돌리'나 '스테이블LM', '블룸' 등 매개변수 30억~1760억개의 오픈 소스 LLM을 선택할 수 있다. 기업 환경에 맞춰 사내에 언어 모델을 구축하기 때문에 머신러닝 과정에서의 데이터 외부 유출을 막을 수 있고, 개인 정보 제어를 통해 보안을 강화할 수 있다.
오픈AI의 'GPT'나 구글 '바드' 등 빅테크 기업의 LLM을 선택해 서비스형소프트웨어(SaaS) 형태로 활용할 수도 있다. 기업의 정책과 예산, 업무 등 비즈니스 상황을 고려한 뒤 가장 적합한 언어 모델을 선택해 사용하면 된다. 빅테크 기업의 LLM을 사용해도 기업의 특성에 맞게 미세조정하기 때문에, 기업 특화 프롬프트 엔지니어링 및 버전 관리가 용이하다.
한편 올거나이즈는 ▲자연어 이해 AI 답변봇 알리와 ▲문서 내 주요 정보 추출 ▲감정 및 리뷰 분석 API를 개발, 공급하고 있다. 대표 서비스 알리는 AI가 기업 내 다양한 형태의 문서에서 질문에 대한 답을 자동으로 찾아준다. 일상적인 문장(자연어)의 질문에도 정확한 답변 도출이 가능해 기업의 업무 생산성을 높인다. 최근에는 챗GPT의 기반 언어 모델인 GPT-3.5 API를 연동한 알리의 업그레이드 버전인 '알리GPT'를 출시했다.
이창수 올거나이즈 대표는 "사내구축형 LLM은 기업 데이터가 외부에 공개되는 것을 꺼리는 기업에 최적화한 형태"라며 "알리 LLM Ops를 활용하면 기업마다 니즈에 맞는 AI 모델을 선택해서 노코드 기반 앱을 쉽게 만들 수 있고, 원할 경우 모델을 변경하는 것도 가능하다"고 말했다.
이주영 기자 juyoung09@aitimes.com
