오픈AI가 인공지능이 생성한 글을 탐지하기 위해 만든 ‘AI 분류기’를 결국 폐기했다. 정확도가 낮다는 사용자 불만이 지속된 데 따른 조치다.
미 기술매체 디크립토는 25일(현지시간) 오픈AI가 블로그를 통해 지난 1월 31일 공개한 AI 분류기의 정확도가 낮다는 점을 이유로 20일부터 사용하지 않기로 한 사실을 밝혔다고 보도했다.
오픈AI는 AI 분류기 공개 당시 "AI 작성 텍스트를 26% 가려냈다"면서 "완전히 신뢰할 수는 없지만 다른 분류기와 비교해 안정적"이라고 주장했었다. 하지만 반년이라는 시간이 흐른 다음에도 정확도가 개선되지 않아 이같은 조치를 내렸다.
오픈 AI는 "그동안의 피드백을 통합하기 위해 노력하고 있으며, 보다 효율적인 출처 탐지 기술을 연구하고 있다"면서 "AI 생성 콘텐츠를 탐지할 수 있는 매커니즘을 개발해 배포하겠다"고 약속했다. 최근 백악관에서 구글과 마이크로소프트 등 다른 AI 기업들과 함께 발표한 내용이다.
AI가 생성한 콘텐츠를 탐지하는 도구는 ‘챗GPT’ 등장 이후 교육 현장의 수요를 바탕으로 ‘GPT제로’나 ‘AI 라이팅 체크’ ‘카피릭스’ ‘GPT 레이더’ 등 여러 가지가 개발됐으나 아직까지 실효성 있는 제품은 없는 실정이다.
오픈AI 역시 ‘AI 분류기’ 외에 ‘챗GPT’가 생성한 텍스트에 워터마크를 삽입하는 기술을 개발하겠다고 밝혔지만 성과를 내지 못하고 있다.
그만큼 AI 콘텐츠 식별 기술은 개발이 어렵지만 가짜 뉴스나 딥페이크 등의 부작용을 줄이기 위해서는 필수적인 기술로 꼽히고 있다. 업계의 연구개발 결과가 주목된다.
정병일 기자 jbi@aitimes.com
