구글이 지난 주말부터 생성 AI 검색 문제로 곤욕을 치르고 있습니다. 최근 미국에서 출시한 'AI 개요'에 잘못된 답이 올라온다는 증언이 속출하고 있기 때문입니다.
여기에는 '피자에 접착제를 붙이라'는 조언부터 오바마 전 대통령이 무슬림이었다는 등의 역사적 오류, 하루 돌 하나를 먹으면 건강해진다는 등의 문제가 포함돼 있습니다.
구글도 해명을 내놓았습니다. “우리가 본 사례 중 상당수는 흔하지 않은 쿼리였으며, 조작됐거나 재현할 수 없는 사례도 확인했다"라며 "우리는 새로운 기능을 출시하기 전에 광범위한 테스트를 실시했다"라는 내용입니다.
실제로 구글은 생성 AI 검색 도입을 위해 무려 1년 동안 '생성 AI 검색(SGE)'이라는 공개 테스트를 실시했습니다. 국내에서도 지난해 11월부터 SGE를 출시했습니다.
당시에는 별 이야기가 없던 이 기능이 본격 출시되자마자 논란이 된데 당황한 것으로 보입니다. SNS에 오른 내용을 일일이 사람이 확인하고 수정하는 작업도 진행 중으로 알려졌습니다.
해명에서 드러났듯 이처럼 경쟁적으로 AI 검색 결과 오류를 경쟁적으로 SNS에 올리는 것에 대해서도 '흔치 않으며, 조작됐다'라고 밝혔습니다. 억울하다는 뉘앙스가 살짝 섞여 있습니다.
기존 구글 검색이라고 완벽한 것은 아닙니다. 인터넷에 원하는 정보나 정확한 정보만 있는 것은 아니기 때문입니다. 하지만 AI 챗봇은 진실 여부를 떠나 인기있는 내용을 중심으로 단정적으로 정리해 주기 때문에, 잘못이 부각돼 보이는 겁니다.
또 사람들이 AI 챗봇의 실수에 대해 즐거워하고 놀리는 경향이 있다는 것은 잘 알려진 사실입니다. 이런 현상은 지난해 먼저 '빙' 검색에 AI를 도입한 마이크로소프트도 똑같이 겪은 문제입니다.
사실 구글에는 변명이 중요한 게 아닙니다. 사람들이 구글을 믿지 못한다고 판단하면, 수십년간 쌓아왔던 중요한 사업 기반을 잃을 수밖에 없습니다.
따라서 이번 AI 개요 출시 때에는 챗봇의 환각에 대해 더 강조했어야 한다는 지적도 나옵니다.
일부에서는 벌써 구글이 지난번 제미나이 이미지 생성 문제 때처럼 서비스를 잠시 중단하는 것이 아니냐는 예측까지 내놓고 있습니다. 물론 그럴 일은 없겠지만, 당분간 AI 검색은 뜨거운 감자가 될 것으로 보입니다.
한편, 생성 AI 검색은 아직 국내에서 본격 시작되지 않았습니다.
이어 지난 주말 주요 뉴스입니다.
■ 머스크 "세계 최대 데이터센터 구축으로 AGI 본격 경쟁"
일론 머스크가 GPU 10만장으로 구성된 세계 최대의 데이터센터를 짓고, 본격적으로 AGI 개발에 뛰어든다고 밝혔습니다. 오픈AI를 반드시 이기겠다는 의지로 보입니다.
■ 앤트로픽 "LLM 작동 방식 첫 해석 성공...모델 조작도 가능"
앤트로픽이 처음으로 LLM 내부 작동 과정을 들여다보는데 성공했다고 합니다. 안전하고 투명한 AI를 만들려는 시도라고 합니다.
■ '원조' AI 에이전트 스타트업 어뎁트, 경쟁에 밀려 매각 검토
AI 에이전트를 가장 먼저 개발한다고 밝혀 스타가 됐던 어뎁트가 자금 부족으로 회사를 내놓았다고 합니다. 역시 LLM은 대기업이 아니면 손대기 어려운 분야인 것 같습니다.
■ '그녀'의 챗봇 사만다 "기술은 누군가를 기분 나쁘게 하려고 만든 것이 아냐"
최근 요한슨 목소리로 화제가 된 챗봇 사만다와 가상 인터뷰를 나눴습니다. AI 챗봇이지만, 구구절절 옳은 소리만 내놓았습니다.
AI타임스 news@aitimes.com
