인텔이 딥페이크 영상을 96%의 정확도로 1000분의 1초만에 찾아내는 도구를 개발했다고 벤처비트를 비롯한 다수 외신이 16일(현지시간) 보도했다.
딥페이크 영상은 인공지능(AI)기술로 만들어내는 가짜 영상이다. 최근 실제 사람과 대화 하는 것처럼 위장하는 대화형 딥페이크 까지 등장하면서 허위 정보 확산과 신종 사기 등의 심각한 부작용이 나타나고 있다.
인텔은 페이크캣처(FakeCatcher)라는 도구를 출시하면서 ‘세계 최초의 실시간 딥페이크 탐지기’라고 소개했다. 이 도구는 영상에 대해 밀리초(1000분의 1초) 안에 딥페이크 여부를 판정해 알려주며 정확도가 96%에 이른다고 밝혔다.
이 도구는 사람 얼굴에서 혈류(blood fow)를 탐지하는 기술을 활용한다. 심장이 수축하면서 피를 내보낼때 정맥은 색깔이 바뀐다. 이런 혈류 신호는 얼굴 전체에서 수집되며 페이크캣처의 알고리즘은 이런 신호를 시공간 맵으로 변환한다. 다음으로 심층학습(컨볼루션 신경망)을 이용해 동영상의 진위를 즉시 감지해 낸다고 인텔은 설명했다.
그동안의 딥페이크 탐지기술은 원본 데이터를 살펴 진위 여부를 찾은 반면 페이크캣처는 영상 속의 단서에 초점을 맞추는 것이다. 혈류 탐지 기술은 살아있는 조직의 혈관에 빛이 흡수되거나 반사되는 양을 측정하는 방법인 광용적맥류측정법(PPG)이다.
이 도구를 개발한 인텔 랩의 일케 데미르 수석 연구원은 “혈류 신호는 눈으로는 볼 수 없지만 컴퓨터로는 볼 수 있다”면서 “PPG 신호는 알려져 있지만 딥페이크 문제에 적용한 적은 없었다”고 벤처비트에 말했다.
데미르는 “인텔의 연구는 초기 단계”라면서도 “딥페이크 영상은 PPG기법을 사용하는 페이크캣처를 속일 수 없다”고 말했다. 그는 인텔이 ‘책임있는 AI’ 구축을 위한 노력의 하나로 딥페이크와 관련한 연구를 계속하고 있으며 앞으로 더 다양한 감지기를 개발할 것이라고 말했다.
인텔은 페이크캣처를 활용하면 소셜 미디어 플랫폼이 사용자가 유해한 딥페이크 동영상을 업로드하지 못하도록 방지할 수 있다고 조언했다. 또 뉴스 매체에선 조작된 비디오를 내보내지 않도록 감시할 수 있고 비영리 사회단체들은 이 도구로 누구나 딥페이크를 탐지할 수 있도록 공개할 수도 있을 것이라고 제안했다.
정병일 위원 jbi@aitimes.com
