'챗GPT'를 비롯해 강력한 생성 인공지능(AI) 도구가 잇달아 나오면서 다방면에서 큰 변화와 발전이 기대된다.
AI가 우리의 생활을 더 윤택하고 편리하게 바꿔줄 것이라는 기대가 크다. 하지만 이와는 반대로 AI가 만든 글이나 가짜 영상 등이 사회문제로 대두될 수 있다는 우려도 크다.
특히 교육현장에서는 챗봇을 이용한 부정행위를 가려낼 방도가 없어 걱정이 많다. 글쓰기 능력을 키우려 내준 과제를 AI에 맡겨버리면 아무런 효과가 없기 때문이다.
'딥페이크'로 불리는 가짜 영상은 이미 금융사기를 비롯해 다양한 악용사례가 나타나는 등 심각한 부작용 현상을 일으키고 있다.
이같은 부작용을 효율적으로 차단할 수 있는 도구 개발이 시급하다는 목소리도 날로 높아지고 있다.
이런 가운데 월스트리트저널이 10일(현지시간) AI가 만든 글과 가짜 영상을 식별할 수 있는 도구 몇가지를 소개했다.
첫번째는 허깅페이스가 만든 웹사이트다. 이 웹사이트에서는 50 단어 이상의 글을 입력하면 AI언어모델로 작성한 것인지 사람이 작성한 것인지를 가려준다. 다만 이 도구는 'GPT-2' 이후 버전인 'GPT-3'나 '챗GPT'에는 통하지 않는다.
실제 챗GPT가 생성한 글을 입력하는 실험을 해봤다. 먼저 챗GPT에게 최근 이 도구가 각본을 쓰고 연출한 영화 ‘세이프 존’의 대본을 달라고 요청했다. 이에 챗GPT는 “AI 모델로서 나는 영화 제작에 관여하지 않았다”는 내용이 담긴 글을 생성해냈다.
이 답변을 허깅페이스의 탐지 사이트에 입력했더니 "99.58% 사람이 쓴 글"이라는 결과가 나왔다. 제대로 된 탐지기능을 기대하려면 업데이트를 하거나 최근의 언어모델에 통하는 새 도구를 개발해야 할 것으로 보인다.
두번째는 미 프린스턴대학교 학생인 에드워드 티안이 이달 초 개발한 'GPT제로'라는 챗GPT 글 탐지도구다. 이 도구도 GPT-2 기반이어서 탐지에 한계가 있다. 위의 챗GPT 답변을 똑같이 이 도구에 입력해봤다.
결과는 문장 복잡도가 19에서 26정도로 판단됐다. 숫자가 낮을 수록 AI 도구의 글일 가능성이 높다고 하니 어느 정도는 힌트를 준 셈이다. 하지만 만족스러운 결과로 보기는 어렵다.
최근 들어서는 오픈AI가 챗GPT가 생성한 글을 탐지하는 도구를 개발하고 있다고 발표했다. 미국 뉴욕시가 공립학교에서 챗GPT 사용을 금지한데 따른 조치다.
딥페이크 영상 탐지 도구로는 인텔이 개발한 '페이크캣처(Fakecatcher)'가 있다. 인텔이 지난해 11월 출시한 이 도구는 1000분의 1초 안에 딥페이크 여부를 판정해 알려준다. 정확도는 96%에 이른다. 이 도구를 '세계 최초의 실시간 딥페이크 탐지기'라고 소개한 인텔측 설명이다.
이 도구는 사람 얼굴에서 혈류를 탐지하는 기술을 활용한다. 심장이 수축하면서 피를 내보낼때 정맥은 색깔이 바뀐다. 이런 혈류 신호는 얼굴 전체에서 수집되며 페이크캣처의 알고리즘은 이런 신호를 시공간 맵으로 변환한다. 다음으로 심층학습(컨볼루션 신경망)을 이용해 동영상의 진위를 즉시 감지해 낸다.
최근에는 대화형 딥페이크 영상까지 등장해 허위 정보 확산과 신종 사기에 악용되는 추세다. 이를 탐지할 수 있는 기술 개발이 시급하다는 지적이 나온다.
정병일 위원 jbi@aitimes.com
