[AI&빅데이터쇼] 코난테크놀로지, RAG로 강화한 '코난 서치' 및 '코난LLM' 선보인다

코난테크놀로지(대표 김영섬)는 6월19~21일 서울 코엑스에서 열리는 국내 최대 인공지능(AI) 전시회 ‘2024 인공지능&빅데이터 쇼’에서 AI 통합검색 솔루션 '코난 서치'와 문서생성 AI '코난 LLM'을 선보인다고 25일 밝혔다.

코난 서치는 사용자가 입력한 검색어가 정확히 일치하지 않아도 검색 이면의 의도를 이해, 원하는 정보를 빠르고 정확하게 찾아주는 솔루션이다. 벡터 기반 의미 검색, 멀티모달 AI 검색, 디스크 기반 대용량 검색 등을 제공해 엔터프라이즈 검색 경험을 극대화한다는 설명이다.

출시 이후 이미 2000여 고객사에게 성능을 검증 받은 바 있다. 서울시 외 지방자치단체 100여곳, 행정안전부 외 공공행정기관 500여곳, 그리고 1400여곳의 기업 등이 코난 서치를 사용했다.

그중 KB국민은행은 웹 통합 검색, 모바일 통합 검색, 민원 VOC 검색/분석, 콘텐츠 관리 시스템, 통합 업무환경 시스템 6개 업무 시스템에 코난 서치를 15년째 도입하고 있는 장기 사용 기업이다.

SK하이닉스에서는 실시간 대화형 협업 플랫폼 구축 과정에 사용, 회사 전체의 협업 속도가 빨라지게 하는 효과를 봤다. 

공공기관 중에서는 행정안전부 사례가 대표적이라고 전했다. 비슷한 서버 대수로 기존 구축 시스템보다 약 4배 많은 데이터를 검색할 수 있도록 성능을 개선했다. 현재 20억개 이상의 정보공개문서를 검색하는 데 사용 중이라고 덧붙였다.

지난해 출시한 코난 LLM은 기업/기관의 업무 생산성을 향상할 수 있는 문서 생성 AI다. 고품질 전문 분야 문서를 위주로 사전학습을 진행, 뛰어난 문서 생성 성능을 제공한다고 전했다.

보고서 생성 외에도 보도자료 초안작성, 고객 맞춤 상담, 타겟 마케팅 등 업무분야에서 활용 가능하다.

특히 '코난 서치 6'의 강점인 벡터 검색은 코난 LLM에도 적용한 바 있다. 생성 AI가 근거 있는 답변을 내놓게 만드는 검색 증강 생성(RAG) 기법에 벡터 검색 엔진 ‘코난 서치6’를 접목, 내부 문서나 최신 데이터를 기반으로 신뢰도 높은 최신 답변을 제공할 수 있게 됐다.

질의응답 뿐만 아니라 문서 생성 시에도 적용해 전체적인 답변 품질을 향상gk고, 환각 현상은 해소한다고 설명했다. 테이블 형식 콘텐츠를 잘 이해하고 답할 수 있도록 RAG 기술을 지속적으로 고도화할 예정이다.

한편 1999년 설립한 코난테크놀로지는 AI 소프트웨어 전문 기업이다. 텍스트 AI, 비디오 AI, 디지털트윈, 파운데이션(핵심기반 기술) 네가지 분야에서 핵심 AI 기술력을 보유하고 있다. 이를 기반으로 검색 엔진, 챗봇, LLM, 디지털트윈 등 솔루션을 제공하며 공공, 제조, 금융, 국방 등 다양한 산업 분야에서 디지털전환을 돕고 있다.

특히 자연어처리(NLP) 분야에서 국내 최고 수준의 기술력을 갖춰, 자체 개발한 '디스크 기반 벡터 검색 기술'을 상용화한 국내 유일 기업이라고 강조했다. 이를 통해 10억건 이상의 문서에서 결과를 도출해내는 하이엔드 검색 기술을 축적했다.

김영섬 코난테크놀로지 대표는 "검색이 잘 돼야 생성도 잘 된다"라며 "독보적 RAG 기술력으로 생성AI 시대 고객 경험을 혁신적으로 개선시키겠다"라고 말했다.

한편 코난테크놀로지는 현재 온프레미스(구축형)로 제공 중인 코난서치를 연내 클라우드(SaaS) 버전으로 출시하기 위해 개발 중이라고 밝혔다.

장세민 기자 semim99@aitimes.com