홍콩의 한 금융회사 직원이 딥페이크로 재현된 가짜 최고재무책임자(CFO)와의 화상회의에 속아 거액의 돈을 날린 사건이 발생했다. 사기꾼 일당은 CFO뿐 아니라 화상회의에 참석했던 모든 직원의 얼굴을 딥페이크로 재현, 피해 직원을 속인 것으로 드러났다.
CNN은 4일(현지시간) 한 다국적 금융기업의 홍콩 지사 직원이 딥페이크 기술을 이용한 사기에 속아 2억홍콩달러(약 340억원)를 잃었다고 보도했다.
이에 따르면 홍콩 지사에서 일하던 직원은 영국에 있는 본사의 CFO로부터 거액의 돈을 비밀리에 부칠 것을 요구하는 이메일을 받았다. 직원은 내용이 수상해 처음에는 피싱 메일이라고 의심했다.
그러나 회사 동료 여러명이 함께 참여한 화상 회의에서도 같은 지시를 받자, 의심을 거두고 2억홍콩달러를 송금했다. 직원은 화상회의에 참석했을 때 모든 사람의 외모와 목소리가 자신이 아는 동료들과 똑같았기 때문에 의심하지 못했다. 나중에 알고 보니 모든 게 사기였다.
이 직원은 회의 중 주어진 지시에 따라 5개의 홍콩 은행 계좌로 2억홍콩달러를 15번 이체했다. 사기꾼들은 이체가 이뤄지기까지 피해 직원과 메신저와 이메일, 화상 통화로 계속 연락했다. AI 사기 행각은 해당 직원이 일주일 뒤 회사 본사에 확인한 뒤에야 발견됐다.
홍콩 경찰은 최근 적발된 딥페이크를 악용한 사기 행각이 최소 20건에 달한다고 밝혔다. 최근 체포된 또 다른 사기 일당 6명은 지난해 7월~9월 분실 신분증 8개를 도용해 만든 딥페이크 이미지로 은행 대출 90건을 받고 계좌 54개를 만들었다.
이처럼 딥페이크 기술이 금융 사기를 비롯해 선거 등 각 분야에 악용될 수 있다는 우려가 전 세계적으로 커지고 있다.
딥러닝(Deep learning)과 가짜(Fake)의 합성어인 딥페이크는 사진이나 영상뿐 아니라 목소리까지도 조작한다. 터무니없는 내용의 거짓 영상을 실제 있었던 일처럼 만들어낼 수 있다.
특히 미국에서는 팝스타 테일러 스위프트의 얼굴 사진을 합성한 음란 이미지가 SNS에 유포돼 팬들의 공분을 일으켰다. 지난달 23일에는 미 뉴햄프셔주 예비선거를 앞두고 조 바이든 대통령을 사칭해 현지 민주당 당원들에게 경선 불참을 권유하는 딥페이크 음성이 유포되기도 했다.
박찬 기자 cpark@aitimes.com
