대형언어모델(LLM)의 단점인 ‘환각현상’을 줄이기 위한 도구 개발이 이어지고 있다.
벤처비트는 11일(현지시간) 고객 경험(CX) 솔루션 플랫폼을 운영하는 심플러가 LLM 기반의 챗봇이 사용할 수 있는 맞춤형 데이터셋을 활용해 환각을 방지하는 ‘코그니티브 패스’라는 도구를 내놨다고 보도했다.
이 도구는 고객 서비스를 하는 기업 조직이 챗봇이 사용할 수 있는 전체 정보의 양을 줄임으로써 LLM을 충분히 활용하면서도 환각으로 인한 브랜드 훼손 위험을 제거할 수 있다고 심플러 측은 설명했다.
구체적으로는 보험 청구나 제품 정보 문의 등 개별적인 고객 서비스 분야마다 고유한 데이터셋을 맞춤형으로 만들어 챗봇이 각각 활용하도록 하는 방식이다.
잉 탄 심플러 CEO는 "고객과의 상호 작용이 갖는 특성에 따라 특정 데이터 세트에서만 정보를 가져오도록 LLM에 지시하는 것"이라면서 "핵심은 데이터베이스의 분리"라고 말했다. 또 이런 방식을 활용하면 고객의 복잡한 문의를 대화식으로 자동화할 수도 있다고 밝혔다.
한편 미국 스타트업 포어쏘우트도 지난 3월 오픈AI의 대형 언어모델인 GPT 시리즈를 기반으로 한 ‘서포트GPT’를 개발해 테스트에 돌입한 바 있다. 환각현상을 피하기 위해 좁은 범위의 답변 세트를 사용하도록 설계한 도구다.
정병일 기자 jbi@aitimes.com
관련기사
