“기계독해(MRC)와 검색 증강 생성(RAG)으로 기업이 신뢰하고 도입할 수 있는 인공지능(AI) 에이전트를 공급, 업무 생산성을 높인 사례가 많습니다. 이런 노하우가 쌓여 포티투마루의 경쟁력이 됩니다.“
박정학 포티투마루 솔루션사업본부 이사는 포티투마루의 AI 에이전트 ‘도큐에이전트42(DocuAgent42)’의 성공 사례를 소개했다.
그는 기업의 자체 데이터를 기반으로 경영 관리 부서의 전결관리 규정 검색과 재무부서의 경영 실적 자료 분석, 법무팀의 법안 검색 등에 프라이빗 AI를 구축한 것을 예로 들었다.
박 이사는 “한 기업 내에서도 부서마다 다양한 맞춤형 방식으로 도큐에이전트42를 도입할 수 있다는 것이 장점“이라며 ”예를 들어, 일반 기업의 법무팀이라도 리걸테크 기업의 솔루션과 같은 방식으로 법안 검색에 활용해 효과를 봤다“라고 설명했다.
가장 대표적인 사례로는 국내 한 조선기업에서 선박 기술 영업 지원을 위한 AI 설계 시스템과 선박 계약 사항을 검색하고 설계 문서를 요약하는 등의 목적으로 포티투마루 솔루션을 도입한 것을 들었다.
일반적으로 선박을 주문하면 완성까지는 최대 5년까지 걸릴 수 있다. 그 과정에서 선주의 요구사항, 엔지니어들의 코멘트, 설계도면의 비교와 리뷰 등 주고받는 문서가 방대하기 때문에 데이터관리가 어려웠다는 설명이다.
하지만 박 이사는 도큐에이전트42를 도입한 뒤 “선박 수주와 설계 과정에서 선주의 질문에 답변 문서를 작성하는 데 걸리던 시간을 평균 2주에서 1~2일 정도로 줄였다”라고 밝혔다. “사양서에서 요구사항을 분석하는 시간도 1달에서 1~2주로 단축해 생산성을 높였다“라고 덧붙였다.
이제는 약관이나 혜택 정보가 계속 업데이트되는 보험사나 카드사 등에서 상담사 업무를 지원하는 어시스턴트를 적용하는 것은 간단한 수준에 속한다고 전했다.
이는 도큐에이전트42에 포티투마루의 대형언어모델(LLM) ‘LLM42‘뿐만 아니라, '하이퍼클로바X' '익시젠' '제미나이' 등 여러 LLM을 적용, 활용성을 극대화했기 때문이다. 여기에 박 이사는 ”LLM 성능보다 더 중요한 것은 RAG와 MRC로 답변 정확도를 높이는 것“이라고 강조했다.
특히 RAG를 적용할 때 “청킹(Chunking)이 아닌 패시지 검색(Passage Retrieval)을 사용한다”라고 밝혔다. "청킹과는 달리 문장을 의미 단위로 분할, RAG에 활용하면 높은 정확도를 보인다”라는 설명이다.
패시지 검색은 사내문서 데이터베이스를 의미 단위의 ‘문장’으로 나눠, 특정 질문에 가장 적합한 문장을 찾아내는 기술이다. 문단이나 여러 문장의 덩어리로 나누는 청킹에 비해 질문의 핵심 부분만을 선택해서 제공하는 방식이다.
또 다른 강점인 MRC는 AI가 사람처럼 문장 의미를 분석하고 질문에 대한 정확한 답을 제공하는 기술이라고 소개했다.
기업이 보유한 정형 및 비정형 데이터를 빠르게 AI가 활용할 수 있는 데이터베이스로 구축할 수 있는 것도 강점이다. 그는 “기업의 SNS나 기존 ERP 시스템과 연동할 수 있어 여러 데이터를 활용하기 쉽다”라고 말했다.
물론, 정확한 의미에서 도큐에이전트42도 AI 에이전트라기보다 'AI 어시스턴트'에 가깝다. 박 이사도 "아직은 사람이 판단할 필요가 있고, AI가 의사결정을 할 단계가 아니다"라고 전했다.
AI 에이전트라는 용어가 보편화된 것은 불과 수개월 사이다. AI 에이전트는 '사용자를 대신해 자율적으로 작업을 수행할 수 있는 시스템 또는 프로그램'을 의미한다.
이에 비해 AI 어시스턴트는 사용자의 의사결정과 목표 달성을 지원하기 위한 프로그램이다. 즉, 사람의 개입 없이 혼자서 작업을 수행(action)할 수 있느냐가 차이점이다.
국내외에서 출시 중인 AI 에이전트는 기존에 하나의 명령에 하나의 답변 밖에 내놓지 못하던 것을, 조금 확장한 정도다. 처음부터 끝까지 복잡한 임무를 스스로 수행할 수 있는 범용 에이전트는 아직 등장하지 않았다.
박정학 이사는 이런 상황을 설명하며 “현재 국내 AI 업계의 전반적인 수준은 어시스턴트 단계”라며 “완전한 형태의 에이전트가 완성되려면 대형행동모델(LAM)이 등장해야 한다“라고 말했다.
LAM이란 사용자 행동 분석을 기반으로 웹과 앱 환경에서 직접 작업 수행을 할 수 있는 AI 모델을 의미한다. 언어모델과 작업 수행 능력을 연결하는 것이 핵심이다.
또 “로봇 프로세스 자동화(RPA)로 에이전트를 흉내 내는 서비스가 있지만, 진정한 에이전트라고 보긴 힘들다”라고 지적했다. 모바일이나 PC 화면을 읽고 정해진 작업 순서에 따라 수행하는 형식은 자율적으로 판단해 실행하는 에이전트와 전혀 다른 개념이라는 설명이다.
포티투마루의 서비스도 향후 본격화될 AI 에이전트 시대에 가장 먼저 선두 주자로 치고 나갈 노하우를 구축하는 과정이라는 말이다.
그는 "업계마다 용어나 기준은 다를 수 있지만, 포티투마루는 어쨌든 가장 발전한 형태의 서비스를 기업에 제공하는 것"이라며 "이런 노하우가 쌓여 경쟁력을 만들 수 있을 것"이라고 강조했다.
박수빈 기자 sbin08@aitimes.com
