모르는 영상 속 인물이 내가 아는 누군가와 비슷하다면 혹시 딥페이크를 사용해 만든 영상이 아닌지 의심해 본 경험이 있을 것이다. 딥페이크 사진을 분석해 진위를 가려주는 위변조 검사 애플리케이션이 국내에서 최초로 출시됐다.
KAIST(총장 이광형)에서 사진 위변조 등 딥페이크를 탐지해 잡아내는 '카이캐치'를 개발했다고 30일 밝혔다. 전산학부 이흥규 교수 연구팀은 AI 인공신경망을 기반으로 디지털콘텐츠 위변조 탐지가 가능한 모바일 앱을 개발했다.
연구팀은 영상의 미세 변형 신호 흔적과 미세 이상 신호 흔적 탐지 기술을 적용한 신호처리 방식을 AI 기술에 도입해 개발했다. 얼굴 영역의 미세 변형과 코, 입, 얼굴 윤곽 등 얼굴 내 기하학적 왜곡 발생 가능 영역의 이상 신호 흔적을 분석해 딥페이크를 탐지한다.
딥페이크 탐지는 다음과 같이 이루어진다. avi 나 mp4 형식의 딥페이크 의심 동영상이 발생하면 먼저 개별 프레임으로 나눠서 쪼갠 후 분석하고자 하는 프레임을 이미지로 변환해 딥페이크를 탐지한다. 따라서 동영상의 한 프레임을 잘라 이미지로 만들어 카이캐치 앱에 업로드하면 손쉽게 딥페이크 여부를 확인할 수 있다.
분석 결과를 0에서 100(%) 값으로 표시, 숫자가 높을수록 딥페이크일 확률이 높은 것으로 알려졌다.
사진 위변조가 의심되는 이미지는 업로드하면 해당 이미지를 분석한 결과를 시각화한 두 장의 분석 이미지를 도출한다.
분석한 이미지 속 위변조가 의심되는 특징들을 주요 영역으로 표시한다. 다른 주변 영역들과 색상이 크게 다르다거나, 다양한 색상들이 혼재해 나타나면 해당 영역이 위변조된 주요 영역들인 것을 알 수 있다.
기존의 딥페이크와 위변조 사진 탐지에 관한 기법은 학술 논문 발표나 기술 홍보 수준에 머물렀다. 하지만 이번에는 이전과 달리 스마트폰용 모바일 앱으로 서비스 할 수 있는 기술을 개발해 위변조 탐지 기술을 실용화했다.
단, 비디오 프레임 내 얼굴 크기가 해상도 128X128 픽셀 이하인 경우, 얼굴 일부가 프레임 전체를 채우거나 얼굴이 크게 잘리는 경우 또는 얼굴 전면이 거의 나타나지 않는 경우에는 탐지가 불가능하다.
이번에 개발한 모바일용 위변조 탐지 앱 개발에 이흥규 교수는 "카이캐치는 인공지능을 통한 미세 이상 신호 흔적 분석 기술을 사용해 다양한 유형의 사진 변형에 대응할 수 있도록 개발했다”며 "우리가 예측하지 못한 어떤 모르는 변형 기법을 사용해도 90% 내외 정확한 탐지율을 가진다”고 말했다.
한편, 안드로이드 기반 구글스토어에서 `카이캐치' 앱을 검색해 다운받으면 딥페이크, 이미지 위변조 분석 등에 사용할 수있다. 가까운 시기에 iOS 기반 앱 출시와 함께, 영어, 중국어, 일어 앱도 출시할 예정이다.
AI타임스 이하나 기자 22hnxa@aitimes.com
[관련기사] "지능형 범죄, AI가 맞선다"...ETRI, 치안 향상 인공지능솔루션 공개
[관련기사] 사진 속 할머니 얼굴이 움직인다...AI 기반 애니메이션 툴 개발
