가트너가 2027년까지 기업의 소형언어모델(sLM) 사용량이 사용량이 범용 대형언어모델(LLM)보다 최소 3배 이상 많을 것이라고 예측했다.
10일 발표한 보고서에 따르면, sLM은 응답 속도가 빠르고 컴퓨팅 자원을 적게 소모해 유지 관리 비용을 절감할 수 있다는 것이 주요 이유로 꼽혔다.
sLM 도입을 추진하는 기업이 명심해야 할 사항도 제시했다. 먼저 비즈니스 맥락이 중요한 분야나 LLM 응답 품질과 속도가 기대에 미치지 못하는 영역에는 컨텍스트 기반 sLM을 시범 도입하는 것이 효과적이라고 전했다.
이어 단일 모델만으로는 한계가 있는 사용 사례를 파악, 여러 모델과 워크플로우 단계를 결합한 복합적 접근 방식을 도입하는 것이 효과적이라고 덧붙였다.
이후 모델 미세조정에 필요한 데이터를 수집, 선별, 구조화하는 데이터 준비 역량에 집중해야 한다고 설명했다. AI 이니셔티브를 추진하기 위해 AI 및 데이터 설계자, 데이터 과학자 등 기술, 기능 인력의 역량 강화에 투자하는 것도 효과적이라는 설명이다.
수밋 아가왈 가트너 VP 애널리스트는 “비즈니스 업무 흐름 내 다양한 작업과 더 높은 정확도를 필요로 하며 특정 기능 또는 도메인 데이터에 맞춘 미세조정 모델로 전환이 가속화되고 있다"라고 말했다.
장세민 기자 semim99@aitimes.com
관련기사
