고객센터의 상담원을 도와주는 대형언어모델이 나왔다.
벤처비트는 20일(현지시간) 상담용 소프트웨어 개발업체인 옵저브에이아이가 고객 응대에 활용할 수 있는 대형언어모델(LLM)을 개발했다고 보도했다.
이 언어모델을 기초로 통화내용 요약, 자동 질문 답변 생성, 상담원 자동 코칭 기능을 제공한다고 회사측은 밝혔다. 모델은 매개변수가 300억개로 실제 고객상담센터의 방대한 상담 내용을 데이터셋으로 이용해 훈련했다고 설명했다.
스왑닐 제인 CEO는 “상담 센터에서 일어나는 고객과의 상호작용에 대해 영역별 데이터셋로 광범위하게 훈련했다”면서 상황에 맞는 응답을 제공하는 능력을 갖추도록 했다고 말했다. 이 모델은 초기 벤치마크에서 정확도가 대화 요약은 35%, 감정 분석이 33%였다면서 지속적인 교육을 통해 더 향상될 전망이라고 밝혔다.
특히 일반적인 언어모델과는 달리 인터넷 데이터로 학습하지 않고 고객과의 실제 상호 작용 수억 건에서 데이터를 수집해 ‘환각 현상’을 피할 수 있도록 했으며 대화의 뉘앙스도 학습했다고 덧붙였다.
이 언어모델을 기반으로 만들어진 ‘지식AI’ 기능은 기업 내부의 지식 데이터를 자동으로 검색해 고객 문의에 빠르고 정확한 답변을 하도록 돕는다. 또 '자동 요약 기능'이 있어 상담원이 고객에게 집중하고 통화후의 작업을 줄일 수 있으며, '자동 코칭 기능'으로 상담원에게 개인화된 피드백을 제공해 역량 향상을 돕는다고 회사측은 밝혔다.
제인 CEO는 “궁극적으로 직원이 업무를 더 잘 수행하도록 돕는 신뢰할 수 있는 AI를 구축하는데 주력하고 있다”면서 “인간이 창의성과 전략적 사고, 긍정적인 고객 경험 창출에 집중할 수 있도록 AI를 만드는 것이 목표”라고 말했다.
정병일 기자 jbi@aitimes.com
