딥페이크 사기 행각이 중국을 발칵 뒤집어 놓았다. 관련 SNS 게시물은 하루 동안 1억건이 넘는 조회수를 기록했다.
로이터는 22일(현지시간) 정교한 딥페이크 기술로 친구의 얼굴과 음성을 생성해 돈을 송금하도록 한 사기 사건이 벌어져 중국인들의 우려를 불러일으켰다고 소개했다.
이에 따르면 네이멍구 바오터우의 IT 업체 대표 궈모씨는 지난달 20일 "입찰에 필요한 보증금이 필요하다"며 도움을 요청한 친구의 계좌에 430만위안(약 8억원)을 송금했다.
송금이 제대로 이뤄졌는지 친구에 확인하는 과정에서 사기라는 것을 알아차린 피해자는 공안 당국에 신고했으나, 은행계좌를 정지하기 직전 이미 93만1600위안(약 1억7000만원)이 빠져나간 상태였다.
피해자는 영상 통화 속 친구의 얼굴과 음성이 똑같아 의심하지 않았던 것으로 밝혀졌다. 공안 당국은 가해자가 인공지능(AI)을 이용한 딥페이크 기술을 쓴 것으로 추정하고 있다.
이 사건은 중국 최대의 SNS인 웨이보를 통해 엄청난 반응을 불러일으켰다. '#AI 사기가 전국적으로 폭발하고 있다'는 해시태그 게시물은 1억2000만건 이상의 조회수를 기록했고, 많은 댓글을 생산해 냈다.
한 웨이보 사용자는 "이제는 사진, 음성, 비디오가지 모두 믿을 수 없게 됐다"라고 말했으며, "정부의 규정이 과연 사기꾼들의 기술을 따라잡을 수 있을지 의문"이라는 반응도 나왔다.
한편 중국 국가인터넷정보판공실, 공업정보화부, 공안부 등은 '인터넷 정보 서비스 딥 합성 관리 규정'을 지난 1월10일 발효했다.
딥 합성이란 'AI의 딥러닝이나 증강 현실을 활용해 텍스트, 이미지, 영상, 오디오를 만들어내거나 조작하는 기술'로, 딥 합성 서비스 제공자와 이용자는 해당 기술을 사용해 콘텐츠를 만들 경우 사실을 분명히 밝히고 원본을 추적할 수 있도록 해야 한다는 규정이다.
중국 정부는 이 규정을 근거로 지난 7일에는 챗GPT를 이용해 가짜 뉴스를 만들어 낸 혐의자를 처음으로 체포하기도 했다. 당시 공안은 혐의는 최고 징역 5년에 해당하지만, 극단적인 경우 10년까지 연장할 수 있다고 밝혔다.
임대준 기자 ydj@aitimes.com
