서울대 컴퓨터공학부 지능형데이터시스템 연구팀(지도교수 이상구)은 미국 플로리다에서 열리는 국제학술대회 'EMNLP 2024'에 검색 증강 생성(RAG) 관련 논문 2편을 발표할 예정이라고 11일 밝혔다.
RAG는 사용자의 질문에 관련된 회사 내의 주요 정보를 검색(retrieval), LLM에 입력으로 제공해 질문의 답을 생성하는 기술이다.
연구팀이 발표할 논문은 RAG를 통한 지식정보 활용율을 높이는 방법에 관한 것이다.
대형언어모델(LLM)이 답변을 생성하는 과정에서 내부 엔트로피(entropy)를 측정해 LLM이 ▲검색정보 활용 ▲사전 학습 정보기반 답변 ▲답변 거부 등을 판단할 수 있게 한다.
연구팀은 기존 방법론 대비 상황에 따른 LLM의 대처 능력을 10~30%까지 향상시켜, 환각 현상을 줄이고 답변 신뢰도를 높일 수 있다고 전했다.
연구를 주도한 서울대 지능형데이터시스템연구실 김연아 연구원과 김형준 연구원은 “LLM과 같이 커다란 딥러닝 모델의 행동패턴을 심층적으로 이해하는 것은 매우 힘든 일인데, 그 한 단면을 파악하여 실질적인 효과를 가져올 수 있는 연구결과를 만들게 되어 매우 기쁘다”라고 말했다.
연구팀을 지도한 이상구 교수(인텔리시스 CTO)는 “LLM의 잠재적인 능력을 안전하게 잘 활용할 수 있는 제어 기술은 LLM의 상용화를 위한 핵심 기술이 될 것”이라고 강조했다.
박수빈 기자 sbin08@aitimes.com
관련기사
