얼굴 혈색만으로도 딥페이크(Deepfake) 영상을 잡아낼 수 있다는 새로운 연구 결과가 나왔다. 전 세계적으로 불법 딥페이크 콘텐츠 확산에 따른 피해가 늘어가는 가운데 이번 연구 성과가 향후 딥페이크 범죄 근절에 얼마나 기여할 수 있을지 주목된다.
미국 뉴욕주립대 빙엄턴캠퍼스와 인텔의 공동 연구팀이 딥페이크 영상 속에서 말하는 사람의 심장박동과 혈액순환 등을 측정해 딥페이크 사용 유무를 가려낼 수 있는 기술을 선보였다고 지난 2일(현지시간) 영국 일간지 인디펜던트 등 주요 외신이 보도했다.
딥페이크는 딥러닝(deep learning)과 페이크(fake)의 합성어로 인공지능(AI) 기술 기반의 알고리즘을 활용해 이미지나 동영상을 편집‧조작하는 기술을 말한다.
연구진은 실제 사람들의 얼굴 영상이 육안으로는 보이지 않는 생리적 신호를 포함하고 있다는 사실에 착안해 이번 딥페이크 탐지 소프트웨어 시스템을 개발했다. 연구진은 얼굴 주위 혈류의 움직임을 검사함으로써 영상이 진짜인지 가짜인지를 밝혀낼 수 있다고 전했다.
딥페이크로 제작된 영상은 진짜 영상에 담긴 혈류 속 맥박으로 인한 미세한 색의 변화까지 그대로 정교하게 복제해내기 어렵다. 인물 영상에 숨겨진 생물학적 신호는 가짜 콘텐츠에서는 공간적‧시간적으로 보존되지 않기 때문에 영상의 진위 여부를 확인하는 데 활용될 수 있다는 게 연구진의 설명이다.
이번 연구는 광용적 맥파(PPG, photoplethysmography) 기법을 기반으로 이뤄졌다. PPG는 생체조직의 광학적 특성을 이용해 혈관에 흐르는 혈류량을 측정함으로써 심박 활동 상태를 알 수 있는 맥파 측정방법을 말한다. 이러한 PPG 검사수단은 몸에 아무것도 부착할 필요가 없기 때문에 성인보다 피부가 얇고 민감한 신생아를 모니터링하는 데 사용된다.
연구진은 인위적인 딥페이크 영상의 경우 안정적이고 일관성 있는 PPG 신호를 가진 프레임들이 나타나지 않는다는 점을 알아냈다. 또 이렇게 밝혀낸 사실을 토대로 사람의 얼굴이 담긴 영상이 실제인지 가짜인지 90% 이상의 정확도로 구별해낼 수 있었다고 밝혔다.
연구진에 따르면 이번에 개발한 기술을 통해 영상의 딥페이크 여부뿐만 아니라 해당 딥페이크 영상을 만드는 데 어떤 소프트웨어가 사용됐는지도 판별할 수 있다. 여러 합성방법(DeepFakes, Face2Face, FaceSwap, NeuralTex) 가운데 정확히 어느 생성자로부터 만들어진 것인지 알아내는 데에도 활용 가능하다는 것이다.
이번 연구 논문은 국제전기전자공학회(IEEE) 학술지(‘IEEE Transactions on Pattern Analysis and Machine Learning’)에 실렸다.
한편, 최근에 전문가들은 미래에 AI 기술 활용으로 범죄가 더욱 고도화되면서 딥페이크를 이용한 범죄가 잠재적인 AI 관련 범죄 가운데 가장 우려스럽다는 진단을 내놓기도 했다. 유니버시티 칼리지 런던(UCL) 연구진은 향후 15년간 AI 기술을 악용한 범죄 가운데 딥페이크를 가장 위험하고 심각한 범죄 형태로 지목한 바 있다.
특히 딥페이크는 악용되는 목적이나 용도가 다양하기 때문에 적발‧예방‧근절이 어렵다. 전문가들은 장기적으로 딥페이크 오디오‧비디오 등의 가짜 콘텐츠 양산이 오디오‧시각자료에 대한 광범위한 불신으로 이어질 수 있다고 경고했다.
이에 페이스북을 비롯한 일부 소셜네트워크서비스(SNS) 기업은 자사 플랫폼에 딥페이크 기반 조작 동영상의 게재를 금지하는 조치를 취하고 딥페이크 탐지 기술 개발에 나서는 등 불법적인 딥페이크 콘텐츠 퇴치에 노력을 기울이고 있다.
[관련기사] AI로 미래 범죄 고도화…’딥페이크‘ 가장 위험하다
