IBM이 '왓슨x' 플랫폼에서 사용할 수 있는 새로운 대형언어모델(LLM) ‘그래니트(Granite)’를 출시했다. 더불어 기업용 생성 AI 모델 구축을 위한 도구를 대거 선보이며, B2B 시장에 본격적인 도전장을 내밀었다.
테크크런치의 8일(현지시간) 보도에 따르면 IBM은 문서를 요약하고 분석을 수행하며 텍스트를 생성할 수 있는 130억개의 매개변수를 갖춘 2가지 LLM ▲그래니트.13b.인스트럭트(Granite.13b.instruct)와 ▲그래니트.13b.챗(Granite.13b.chat)을 공개했다. 두 모델은 인터넷 등에서 공개적으로 스크랩한 데이터가 아닌, 2.4TB(테라바이트) 규모의 엄선한 기업용 전문 데이터를 사용해 훈련했다.
특히 그래니트 LLM은 엔비디아 단일 'V100' GPU에서 실행할 수 있을 만큼 효율이 높다. V100은 H100 GPU보다 용량이 작고 저렴한 장치로, 그래니트 LLM은 크고 정교한 하드웨어에서 실행해야 하는 다른 LLM에 비해 구축하기 쉽고 비용 절감 효과가 뛰어나다는 설명이다.
디네시 니르말 IBM 소프트웨어 수석 부사장은 "초기 그래니트 모델은 시작에 불과하며, 더 많은 모델을 준비 중이다"라고 말했다.
IBM은 이외에도 다양한 모델과 도구를 추가, 기업용 AI 서비스 라인업을 대폭 강화했다.
우선 메타의 오픈소스 LLM ‘라마 2’와 서비스나우 및 허깅페이스의 코드 생성 LLM ‘스타코더’를 왓슨x를 통해 출시했다.
또 기업이 보유한 구매 로그 모음과 같은 샘플 데이터셋을 이용해 동일한 통계적 특성과 속성을 갖는 데이터를 생성하는 합성 데이터 생성기를 선보였으며, 기업이 AI 훈련 데이터셋를 관리하는 데 도움을 주기 위해 ‘왓슨x.데이터(watsonx.data)’도 업데이트했다.
100~1000개의 예시를 통해 손쉽게 LLM을 미세조정할 수 있는 '튜닝 스튜디오'를 추가했으며, AI 모델의 검색 속도를 가속화하는 내부 지식 저장소용 벡터 데이터베이스도 추가할 예정이다.
결과적으로 기업은 왓슨x 플랫폼을 통해 ▲자체 전문 LLM ▲오픈소스 LLM 등 파운데이션 모델과 ▲데이터 생성기 및 데이터 관리 도구 ▲미세조정 도구 ▲벡터 데이터베이스 등 생성 AI 모델을 구축하기 위해 필요한 모든 구성 요소를 원스톱으로 제공할 수 있게 됐다.
니르말 부사장은 "출시 후 단 몇 달 만에 왓슨x 플랫폼을 획기적으로 업데이트, AI 라이프 사이클 전반에 걸쳐 고객을 지원할 수 있게 됐다"라며 "데이터 전략의 기본 요소를 확립하는 데 도움을 주는 것부터 특정 비즈니스 사용 사례에 맞게 모델을 조정하고 AI 모델을 관리하는 데 컨설팅하는 것까지 전부를 포함하고 있다"고 말했다.
박찬 기자 cpark@aitimes.com
