이 중 가짜를 찾아 보세요.
전부 다 가짜다. 딥페이크에 이어 가짜 얼굴 생성 사이트가 나타났다. 만들어진 가상 인물이 페이스북 계정을 통해 정치적 발언을 하고 1,000명이 넘는 그룹도 관리한다. 이런 가상 인물 사진은 새로 고침(Refresh) 기능 클릭 단 한번으로 양산된다.
15일 영국 종합지 파이낸셜 타임스(Financial Times)에 따르면 "페이크페이스(가짜얼굴) 기술로 새로운 사람의 모습을 무한 생성하는 웹사이트(이 사람은 존재하지 않는다는 뜻의 thispersondoesnotexist.com)"가 등장했다.
페이크페이스는 딥페이크와 같은 딥러닝 알고리즘, 적대적 생성 신경망(Generative Adversarial Network) 기술을 이용한다.
두 신경망(생성자와 감별자)이 경쟁을 통해 학습하며 실제에 가까운 거짓 데이터를 만든다. 생성자가 만든 자료를 감별자가 실제 사람의 사진과 비교하며 반복을 통해 새로운 사람의 사진이 탄생한다.
페이크페이스는 딥페이크보다 단순한 기술이지만 사용자의 의도에 따라 더욱 치명적 영향을 끼친다. 쉽고 빠르게 대량생산이 가능해 진실 조작, 여론 조성, 가짜 뉴스 배포 등 우려가 크다. 페이스북 계정을 마구잡이로 생성, 트래픽 유도가 가능하고, 심지어 딥페이크처럼 진짜에게 들키거나 지인에게 들킬 일도 없다.
인스타그램과 트위터에서 가수, 모델 등 인플루언서로 활발히 활동하는 가상인간들도 있다. 하지만 최근 정교화된 GAN을 통해 만들어진 사진은 다른 차원의 수준을 보여준다. 소위 기술적 한계를 뜻하는, '불쾌한 골짜기(Uncanny Valley)'를 뛰어넘은 것.
시웨이 류(Siwei Lyu) 뉴욕주립대학 컴퓨터공학 교수는 “요즘 GAN 모델은 피부와 머리카락까지 진짜 사람과 비슷한 이미지를 도출할 수 있다"고 말했다.
이에 앞서 지난달 페이스북은 가짜 사진으로 SNS 계정을 만들어 친중 성향의 활동을 하는 계정 150건을 폐쇄 조치한 바 있다.
한편, 미국 대선이 가까워지며 미 정계와 미디어 업계에선 인공지능 기술 GAN을 이용한 가짜뉴스 확산과 사회 불안을 조장을 억제에 골머리를 앓고 있다.
미국 '청렴 투표 캠페인 단체 레프리젠트유에스(Represent US)'가 유권자들의 경각심을 자극하기 위해 딥페이크로 제작한 북한 국무위원장 김정은과 러시아 대통령 블라디미르 푸틴의 모습을 담은 광고를 제작한 것.
이 광고는 CNN, FOX NBC를 통해 방영할 예정이었으나 "너무나 실사 같다"는 이유로 취소됐다.
[AI & Tech] 내가 디즈니 주인공? 전이학습 GAN으로 해결
