딥페이크에 이은 페이크 페이스, GAN기술 진화 "지나치게 똑같다"
상태바
딥페이크에 이은 페이크 페이스, GAN기술 진화 "지나치게 똑같다"
  • 입력 2020-10-15 11:20
  • 댓글 0
이 기사를 공유합니다

'Fake Face' 가짜 얼굴 사진 만드는 적대적 생성 신경망(GAN) 기법 고도화
가짜를 진짜처럼 오인시키는 딥페이크 활용 정치적 선동 등 악용 우려
김정은ㆍ푸틴 등장 공익광고 '진짜처럼 보인다' CNN 등 막판 방영취소 결정

이 중 가짜를 찾아 보세요.

전부 다 가짜다. 딥페이크에 이어 가짜 얼굴 생성 사이트가 나타났다. 만들어진 가상 인물이 페이스북 계정을 통해 정치적 발언을 하고 1,000명이 넘는 그룹도 관리한다. 이런 가상 인물 사진은 새로 고침(Refresh) 기능 클릭 단 한번으로 양산된다.

15일 영국 종합지 파이낸셜 타임스(Financial Times)에 따르면 "페이크페이스(가짜얼굴) 기술로 새로운 사람의 모습을 무한 생성하는 웹사이트(이 사람은 존재하지 않는다는 뜻의 thispersondoesnotexist.com)"가 등장했다.

페이크페이스는 딥페이크와 같은 딥러닝 알고리즘, 적대적 생성 신경망(Generative Adversarial Network) 기술을 이용한다.

두 신경망(생성자와 감별자)이 경쟁을 통해 학습하며 실제에 가까운 거짓 데이터를 만든다. 생성자가 만든 자료를 감별자가 실제 사람의 사진과 비교하며 반복을 통해 새로운 사람의 사진이 탄생한다.

페이크페이스는 딥페이크보다 단순한 기술이지만 사용자의 의도에 따라 더욱 치명적 영향을 끼친다. 쉽고 빠르게 대량생산이 가능해 진실 조작, 여론 조성, 가짜 뉴스 배포 등 우려가 크다. 페이스북 계정을 마구잡이로 생성, 트래픽 유도가 가능하고, 심지어 딥페이크처럼 진짜에게 들키거나 지인에게 들킬 일도 없다.

280만 팔로워를 가진 가상 인플루언서 릴 미쿠엘라(Lil Miquela)     사진=인스타그램

인스타그램과 트위터에서 가수, 모델 등 인플루언서로 활발히 활동하는 가상인간들도 있다. 하지만 최근 정교화된 GAN을 통해 만들어진 사진은 다른 차원의 수준을 보여준다. 소위 기술적 한계를 뜻하는, '불쾌한 골짜기(Uncanny Valley)'를 뛰어넘은 것.

시웨이 류(Siwei Lyu) 뉴욕주립대학 컴퓨터공학 교수는 “요즘 GAN 모델은 피부와 머리카락까지 진짜 사람과 비슷한 이미지를 도출할 수 있다"고 말했다.

이에 앞서 지난달 페이스북은 가짜 사진으로 SNS 계정을 만들어 친중 성향의 활동을 하는 계정 150건을 폐쇄 조치한 바 있다. 

한편, 미국 대선이 가까워지며 미 정계와 미디어 업계에선 인공지능 기술 GAN을 이용한 가짜뉴스 확산과 사회 불안을 조장을 억제에 골머리를 앓고 있다.

미국 '청렴 투표 캠페인 단체 레프리젠트유에스(Represent US)'가 유권자들의 경각심을 자극하기 위해 딥페이크로 제작한 북한 국무위원장 김정은과 러시아 대통령 블라디미르 푸틴의 모습을 담은 광고를 제작한 것.

이 광고는 CNN, FOX NBC를 통해 방영할 예정이었으나 "너무나 실사 같다"는 이유로 취소됐다.

[AI & Tech] 내가 디즈니 주인공? 전이학습 GAN으로 해결

[AI & Tech] 전이학습 GAN으로 인공지능이 로마 황제 초상화를 그려냈다

[AI & Tech] 인공지능이 '침착맨' 이말년 화풍 10시간만에 배워, 전이학습 효과

Tag
##GAN
장준하 기자
장준하 기자 juny6287@aitimes.com 다른기사 보기
기자 프로필
장준하 기자
장준하 기자 juny6287@aitimes.com 다른기사 보기

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사
유용한 리스티클
  • AI 재현 기술, 로마 황제 얼굴을 살려냈다
  • EU가 뽑은 인공지능(AI)ㆍ로봇 기술 9가지
  • 차세대 콘텐츠에 활용할 수 있는 인공지능(AI) 기술 6가지
  • "당신의 외모는 몇 점?"…AI가 평가하는 내 얼굴은?
  • 코로나19 대유행 시대, 학교가 갖춰야 할 7가지 필수품은?
  • 비대면 시대, XR(확장현실)기술 사용 국내외 건축ᆞ부동산 기업 7