구글이 논란의 생성 인공지능(AI) 검색 기능을 중지하는 대신, 축소하기로 했다. 특히 말도 안 되는 답변을 유도하는 질문에는 무대응 방침을 세웠다. AI 검색 자체는 큰 문제가 없다는 입장이다.
워싱턴포스트는 30일(현지시간) 구글이 AI 검색 서비스 'AI 개요'의 적용을 축소하고 있다고 보도했다.
이에 따르면 리즈 레이드 구글 검색 책임자는 이날 공식 블로그를 통해 "지난 주 소셜 미디어를 통해 사람들은 (매우 많은 수의 가짜 스크린샷과 함께) 이상하고 잘못된 개요를 공유했다"라며 "이를 개선하기 위해 12가지 이상의 기술적 개선을 적용했다"라고 밝혔다.
여기에는 ▲AI 개요를 표시해서는 안 되는 무의미한 쿼리에 대해 더 나은 탐지 메커니즘 구축 ▲오해의 소지가 있는 조언을 제공할 수 있는 응답에서 사용자 생성 콘텐츠의 사용 제한 ▲AI 개요가 도움이 되지 않는 것으로 입증된 쿼리에 대한 제한 등이 포함된다.
또 피드백과 외부 보고서를 모니터링하고 콘텐츠 정책을 위반하는 소수의 AI 개요에 대해 조치를 취했다고 밝혔다.
하지만 구글의 엄격한 가드레일 정책으로 인해 이처럼 유해하거나 외설적인 쿼리는 700만개 중 1개 미만 밖에 발견되지 않았다고 전했다.
대신 이번 사태가 일부 사용자의 무의미하거나 악의적인 의도가 있었다고 우회적으로 지적했다.
예로 든 것이 '얼마나 많은 돌을 먹어야 하는가'라는 질문이다. 구글은 스크린샷이 입소문을 타기 전에는 그런 질문을 한 사람이 거의 없었다며, 구글 트렌드에서 직접 확인할 수 있다고 밝혔다.
또 이런 질문은 웹 콘텐츠 자체에 관련 정보가 거의 없는 '데이터 공백'에 해당한다고 설명했다.
하지만 풍자적인 내용이 포함돼 있기 때문에 원문, 즉 풍자 뉴스를 다루는 매체의 기사라는 점을 명기했다고 밝혔다.
더불어 AI 개요는 다른 대형언어모델(LLM)처럼 환각 현상을 일으키지 않는다고 강조했다.
단순히 학습 데이터를 기반으로 출력을 생성하는 것이 아니라, 모델의 출력 사항을 전통적인 검색 프로세스로 처리해 상위 웹 결과에 뒷받침되는 정보만 표시한다는 것이다.
따라서 AI 개요가 잘못된 경우는 일반적으로 쿼리를 잘못 해석하거나, 웹에서 언어의 뉘앙스를 잘못 해석하거나, 사용할 수 있는 유용한 정보가 많지 않은 등의 다른 이유가 있다고 설명했다.
구글은 이처럼 AI 검색 자체의 문제가 아니라는 점을 거듭 강조했다.
레이드 책임자는 "우리는 사용자와 마찬가지로 높은 기준을 갖고 있으므로 피드백을 기대하고 감사하며 진지하게 받아들인다"라며 "우리는 AI 개요를 표시하는 시기와 방법을 지속적으로 개선하고, 극단적인 경우를 포함하여 보호 기능을 강화할 것"이라고 말했다.
임대준 기자 ydj@aitimes.com
