"보이는 게 다가 아니다. 무조건 의심하라"
눈에 보이는 것을 그대로 믿을 수 없는 세상이 됐다. 딥페이크(Deep Fake) 영향이다.
딥페이크는 딥러닝(Deep Learning) 기술과 페이크(Fake)의 합성어다. 인공지능(AI)을 기반으로 한 이미지 합성 기술을 뜻한다. 없는 사람을 만들거나 실존하는 사람이 하지 않은 행동을 한 것처럼 보이게 할 수 있다.
문제는 딥페이크 기술이 범죄에 악용되고 있다는 것. 삼성SDS 사내벤처인 팀나인의 홍민기 프로는 6일 열린 '사이버 시큐리티 컨퍼런스'에서 "딥페이크는 포르노, 금융 사기 등에 유용하게 쓰이고 있다"면서 "국가 수준의 사회관계망서비스(SNS) 왜곡에도 이용되고 있다"고 지적했다.
◆ 포르노는 기본, 국가적 문제까지 일으키는 딥페이크
딥페이크가 처음 알려진 건 미국 커뮤니티 사이트 '레딧(Reddit)'에 연예인 합성 포르노 사진이 올라오면서다. 해당 포르노 사진은 가짜였지만, 육안으로 구분하기 어려워 커뮤니티 이용자 사이에서 논란이 됐다.
딥페이크 포르노 문제는 계속 도마 위에 오르고 있다. 지난해 큰 논란이 됐던 'N번방 성착취물 제작 및 유포' 사건에도 딥페이크 기술이 연관됐다. 여성 연예인을 대상으로 한 허위영상 제작에 이 기술이 쓰였다. 한국 연예인을 대상으로 한 딥페이크 포르노 문제는 재앙에 가깝다. 전 세계에서 발생하는 딥페이크 포르노의 희생자 25%가 케이팝 스타인 것으로 알려졌다.
금융권에서는 딥페이크로 인한 금융 사기를 견제하고 있다. 딥페이크를 이용해 최고경영자(CEO)의 얼굴을 만든 후 화상회의에서 돈을 보내라고 지시하는 등 수법이 다양해질 수 있다고 경고한다. 실제로 해외에서는 CEO 음성 지시로 25만유로를 송금해 피해를 본 기업 사례도 있다. 금융보안원은 "AI를 이용한 딥페이크로 보안 위협이 현실화되고 있다"고 밝힌 바 있다.
딥페이크는 국가적으로도 문제가 되고 있다. 대표 사건이 중국 화웨이 기업이 벨기에 정부를 대상으로 한 사기극이다.
벨기에 정부는 5G 사업에 화웨이를 배제했다. 정보가 유출될 수 있다는 가능성이 제기되면서다. 그러자 화웨이는 딥페이크를 이용해 벨기에 정부에 대응했다. 가상으로 여러 명의 벨기에 국민을 만들어 이들이 SNS로 정부를 욕하는 모습을 만들었다. 국민이 화웨이를 배제했다고 정부를 비난하는 것처럼 보이게 했다. 하지만 이 계정들을 클릭하면 모두 허위 사이트로 연결됐다.
미국 정부에서 일하는 30대 소속 여성이 알고 보니 딥페이크로 만들어낸 러시아 간첩이었던 사건도 있었다.
◆ 딥페이크 범죄, 막을 방법은?
딥페이크로 인한 문제가 국가적인 수준으로 발전하자 이에 대응할 수 있는 방법에 대한 연구가 진행되고 있다.
전문가들은 사용자들이 이제 보이는 것을 전부 믿지 말고, 의심되는 사진은 걸러내는 습관부터 길러야 한다고 조언한다. 또 트위터, 페이스북 등 SNS 공급기업의 경우 딥페이크 탐지 기술을 갖춰야 한다고 입을 모은다.
페이스북은 지난해 미국 대통령선거를 앞두고 딥페이크 영상을 전면 삭제한 바 있다. 또 아마존, 마이크로소프트, MIT 등과 딥페이크 탐지 대회를 열기도 했다.
딥페이크 탐지 기술도 여러 기업과 연구기관을 통해 개발되고 있다. 딥페이크 탐지 기술은 크게 ▲생리적 특성 탐지 ▲이미지 기반 탐지 ▲주파수 기반 탐지 등 3가지 방법으로 나뉜다. 생리적 특성 탐지는 미디어 속 혈색 등을 분석해 진위 여부를 가리는 방법이다. 이미지 기반 탐지는 이미지 특이사항을 픽셀 단위로 분석한다. 주파수 기반 탐지는 이미지를 주파수로 변경해 감지한다.
홍민기 프로는 팀나인의 경우 주파수 기반 탐지 방법을 이용해 사람과 개, 고양이 등 완전히 생성된 얼굴을 탐지할 수 있는 기술을 개발했다고 밝혔다. 무생물을 판별할 수 있는 기술도 올해 상반기 중 개발할 계획이라고 했다.
팀나인이 개발한 기술은 높은 정확도를 자랑한다. 지난해 8월 진짜와 가짜 얼굴 데이터 10만장을 분석해 99.999%의 정확도를 기록했다.
홍 프로는 "팀나인은 서울대와 세종대, 고려대, 중앙대 등과 탐지기능 고도화를 위한 연구를 진행하고 있다"면서 "이미지가 사실인지 아닌지 정확히 판단해 볼 필요가 있을 때 관련 탐지 기술을 사용해보는 것을 추천한다"고 밝혔다.
AI타임스 김동원 기자 goodtuna@aitimes.com
