인공지능(AI) 에이전트의 잠재력은 높지만 올해 상용화 가능한 서비스로 출시될지는 미지수라는 전망이 나왔다.
한국딜로이트그룹(대표 홍종성)은 23일 기술·미디어, 통신 산업(TMT)의 주요 트렌드를 조망하는 ‘딜로이트 2025 첨단기술·미디어·통신 산업 전망’ 보고서를 발표했다.
보고서는 AI 에이전트를 '인간이 설정한 목표를 달성하기 위해 스스로 계획하고 실행할 수 있는 AI 시스템'이라고 정의했다.
딜로이트는 올해 생성 AI를 도입한 기업들 중 25%가 에이전틱 AI를 시범 도입하거나 기술 검증에 나설 것으로 전망했다. 또 2027년까지는 50%까지 증가할 것으로 예상했다.
산업 특화 AI 에이전트가 실제 업무에 적용된 사례로 고객지원, 사이버보안, 규제 컴플라이언스, 에이전트 구축 및 조율 등을 소개했다. 이런 사례는 하반기로 갈수록 증가할 것으로 내다봤다.
특히 "일부 기업들이 일관적이고 신뢰할 수 있는 에이전틱 AI를 개발하기 위해 수십 억 달러를 투자하고 있지만, 성공 여부는 확신할 수 없다"라는 부정적인 전망도 내놓았다.
초기 활용사례는 인상적이지만, AI 에이전트도 실수하거나 오류에 빠지는 환각 문제를 겪을 수 있다는 것이다.
이런 불투명한 전망에서도 AI의 기술발전 속도가 빠른 것을 고려해 ▲에이전틱 AI를 위한 업무 흐름의 우선순위 정립과 재설계 ▲데이터 거버넌스와 사이버 보안에 주력 ▲리스크와 보상 간 균형 ▲건전한 회의적 시각 유지 등 접근법을 준비해야 한다고 제언했다.
한편, AI 기술 발전의 부작용도 짚었다. '생성 AI에 익숙하거나 사용 중'이라는 응답자 중 59%는 사람이 만든 미디어와 AI의 창작물을 구별하기 어렵다고 답했다.
이에 따라 딥페이크 탐지 관련 글로벌 시장 규모는 2023년 55억 달러에서 2026년 157억 달러로 연간 42% 증가할 것으로 전망했다. 또 딥페이크 탐지 도구의 정확도는 90%이상이지만, 오픈 소스 생성 AI 모델을 이용해 합성 미디어를 만들면 탐지가 어려울 수 있다고 지적했다.
딜로이트는 "현재로서는 사용자 경험에 부정적 영향을 주지도 않고 분석을 위한 실시간 컴퓨팅 주기가 없어도 되는 디지털 워터마크가 가장 효율적 수단"이라며 "테크 및 미디어 기업들은 범산업적 협력을 통해 딥페이크 탐지와 콘텐츠 진위 검증을 위한 표준 수립 노력을 기울여야 한다"라고 설명했다.
박수빈 기자 sbin08@aitimes.com
