오픈AI는 ‘챗GPT’를 포함한 인공지능(AI)이 생성한 텍스트를 구별하기 위한 무료 도구를 출시했다고 31일(현지시간) 발표헸다.
오픈AI는 '분류기(classifier)'라는 이 도구가 AI 생성 텍스트를 사람이 작성한 것으로 위장하려는 지를 확인하는 데 유용할 수 있지만, 반면 완전히 신뢰할 수는 없으며 주요 의사 결정 도구로 사용되서도 안 된다고 경고했다.
오픈AI는 동일한 주제에 대해 사람이 작성한 텍스트와 AI가 생성한 텍스트 쌍으로 구축된 데이터셋을 사용해 도구를 훈련했다고 밝혔다.
분류기를 사용하려면 무료 오픈AI 계정이 있어야 한다. 상자에 텍스트를 붙여 넣고 버튼을 클릭하면, 텍스트가 AI로 생성됐을 가능성을 알려준다.
하지만 ▲최소 1000자 이상으로 작성된 텍스트가 필요하며 ▲AI가 생성한 텍스트와 사람이 쓴 텍스트 모두에 대해 잘못된 결과를 낼 수 있으며 ▲다른 언어에서는 성능이 현저히 떨어지기 때문에 영어 텍스트에만 분류기를 사용하는 것이 좋으며 ▲AI로 작성된 텍스트를 편집할 경우 분류기를 피할 수 있다는 등의 '제한 사항'도 소개했다.
특히 오픈 AI가 자체적으로 실시한 영어 텍스트 ‘챌린지셋’에 대한 평가 결과는 기대에 못 미치는 수준이다.
분류기는 AI 작성 텍스트의 고작 26%를 ‘AI 작성 가능성이 있음’으로 올바르게 식별했다. 반면 사람이 작성한 텍스트의 9%를 AI 작성 텍스트로 잘못 지정했다. 하지만 오픈AI는 기존의 분류기들보다 훨씬 더 안정적이라고 주장한다.
오픈AI는 "AI로 작성된 텍스트를 식별하는 것이 교육자들 사이에서 중요한 논의 포인트였다"며 "미국의 교육자들과 협력하고 있으며 교육에 관련된 모든 사람에게 피드백을 요청하고 있다”고 말했다.
박찬 위원 cpark@aitimes.com
