탐지기술, 가짜 확산 속도 못 미쳐

본 기사와 관련 없음. ©AI타임스
본 기사와 관련 없음. ©AI타임스

(AI타임스=윤영주 기자) 딥페이크(Deepfake) 기술이 빠른 속도로 정교화되고 있는 가운데 해외 메이저 인터넷 기업들이 딥페이크 기술 악용에 대한 우려를 드러내며 향후 딥페이크 동영상 확산 방지를 위한 대비에 나서고 있다.

뉴욕타임스(The New York Times)는 2020년 다가올 미국 대선에서 딥페이크 기술로 조작 비디오를 생산해 허위 정보를 유포하는 행위 등을 연구진과 국회의원들이 우려하고 있다고 보도했다.

뉴욕타임에 따르면 특히 구글과 같은 인터넷 기업의 경우 딥페이크를 감지할 수 있는 장치를 마련하는 일이 시급한 상황이라고 전했다. 구글의 유튜브나 페이스북의 소셜미디어 플랫폼은 딥페이크의 표적이 되기에 최적의 대상이기 때문이라는 것이다.

딥페이크란 정교한 머신러닝 알고리즘을 이용해 조작된 이미지나 동영상을 말한다. 그러나 현 기술 수준만으로도 이러한 딥페이크 동영상의 진위를 구별하기가 어렵다는 점이 문제가 되고 있다.

이에 애리조나주립대학교 스바라오 캄브합티(Subbarao Kambhampati) 컴퓨터공학과 교수는 “현 AI기술로는 딥페이크 조작 영상을 놓고 무엇이 진짜인지 아닌지를 구별하기가 어렵다”고 말했다.

구글의 딥페이크 연구를 감독하는 닉 뒤포(Nick Dufour) 엔지니어 역시 이미 딥페이크 기술이 미치고 있는 실제적인 영향력을 지적했다.

딥페이크에 이용되는 기술이 나날이 발전하고 있는 가운데 딥페이크 동영상을 감지하기 위한 기술도 함께 발전하고 있다. 그러나 일부 전문가들은 딥페이크 탐지 기술이 팁페이크 기술 발전의 속도에 발맞춰 나아갈 수 없을 것이라고 우려의 목소리를 내고 있다.

최근 구글은 모든 학계 및 기업의 연구원이 합성 영상 컬렉션을 다운로드하여 이를 사용해 딥 페이크를 식별하는 도구를 만들어 내는 데 사용할 수 있다고 밝혔다.

또한 머신러닝 엔지니어링 툴을 제공하는 캐나다 AI 전문업체인 데사(Dessa)에서는 최근 구글의 합성 영상(synthetic videos)을 이용해 만든 딥페이크 탐지기를 테스트했다. 그 결과 구글 영상은 거의 완벽한 정확도로 식별해 낼 수 있었다. 그러나 그들이 인터넷을 통해 뽑아낸 딥페이크 영상에서는 검출기로 시험했을 때, 그것은 40% 이상의 실패율을 보였다. 결국 수백 개의 합성 영상만으로는 문제를 해결하는 데 충분치 않다는 것이다.

구글과 딥페이크 연구를 추진 중인 마티아스 니스너(Matthias Niessner) 뮌헨공과대학교 컴퓨터공학과 교수는 딥페이크를 자동으로 식별하고 제거 할 수 있는 시스템을 구축하기 위해 노력하고 있다. 니스너 교수는 인터넷을 통해 사용되는 최신 딥페이크 기술을 나타내는 새로운 데이터가 지속적으로 필요하다고 하면서 향후 딥페이크 탐지기는 비약적으로 개선될 수 있다는 가능성을 시사했다. 그러나 니스너 교수는 “올바른 데이터를 수집하고 공유하는 것이 어려울 수 있다”고 말했다.