대형언어모델(LLM) 전문 올거나이즈(대표 이창수)가 금융 특화 AI 언어모델 '알리 파이낸스 LLM'을 출시했다고 19일 밝혔다.
알리 파이낸스 LLM은 오픈 소스 LLM 중 성능이 뛰어나다고 알려진 메타의 '라마 2'를 경량화한 금융 특화 sLLM(소규모 LLM)이다.
sLLM은 매개변수가 LLM보다 작지만, 훈련을 위한 데이터와 시간, 비용 등이 적게 들어 특정 용도의 AI 서비스를 개발하는 데 적합하다. 알리 파이낸스 LLM은 매개변수 130억개인 '13B 모델'과 700억개인 '70B 모델'이 동시에 출시, 사용자는 프로젝트 비용과 난이도에 따라 선택할 수 있다.
금융 도메인에 특화한 데이터로 학습, 금융 용어를 잘 이해한다는 강점이 있다. 한 예로, 'LTV'라는 단어를 챗GPT에 물어볼 경우, 고객의 생애 기간 동안 기여하는 평균적인 가치를 나타내는 마케팅 지표인 'Lifetime Value'의 약어라고 대답한다. 하지만 알리 파이낸스 LLM에 질문하면 금융 약관 등에 자주 나오는 'Loan to Value(담보 인정 비율)'의 약어라는 대답이 나온다.
알리 파이낸스 LLM은 올거나이즈의 올인원 LLM 플랫폼 '알리’를 통해 인지검색 및 요약 등에 활용할 수 있다. 금융 용어를 이해하는 모델이 올거나이즈의 검색증강생성(RAG) 기술과 결합, 답변의 적합도를 높인다는 설명이다.
금융 상품 설명서, 경제 전망 보고서 등 원하는 문서를 업로드한 후, 특정 부분을 검색해서 찾아주거나 요약해 달라고 프롬프트를 입력하면 된다. 일부 페이지만 지정해서 검색 및 요약할 수 있으며, 수식이 들어간 복잡한 표에서도 원하는 내용을 찾을 수 있다.
알리 파이낸스 LLM을 사용하면 최대 2주 안에 기업 전용 sLLM을 구축하고 비용 최적화까지 가능하다고 전했다.
또 보안 우려 없이 기업 전용 '온프레미스 LLM 앱 마켓'을 구축할 수 있도록 지원한다. 이를 통해 금융 쪽에 특화한 LLM 앱 마켓도 사용할 수 있다. 금융 전문 용어는 물론 기업 내부 용어나 약어를 반영한 업무 생산성 앱을 쉽게 만들고 사용할 수 있다. 직군별 업무 자동화에 특화한 앱 100개도 함께 제공한다.
올거나이즈는 2017년부터 한국, 미국, 일본 3개국에서 사업을 진행하며 누적 200개 이상의 엔터프라이즈 기업 고객에게 AI 솔루션을 제공했다며, 이 분야의 노하우와 전문성을 강조했다. 이중 대표적인 파트너로는 현대카드, KB증권, 일본 미쓰이스미토모은행(SMBC) 금융그룹, KDDI, KAO, 미국 트래블러스 등을 꼽았다.
이창수 올거나이즈 대표는 "알리 파이낸스 LLM은 금융 특화 LLM과 앱 마켓을 동시에 제공해 도입 즉시 바로 실무 적용이 가능하다"고 강조했다.
또 "올거나이즈는 2017년부터 KB증권, 현대카드, 일본 SMBC 금융그룹 등 거대 금융 고객사들과 함께하며 금융 분야에서의 지식관리 노하우를 쌓아왔고, 이에 금융 특화 sLLM 모델을 가장 먼저 출시했다"라며 "앞으로 보험, 제조업 등의 분야로 넓혀갈 것"이라고 말했다.
이주영 기자 juyoung09@aitimes.com
