다음 주부터 미국 운전자들은 주유소에서 주유할 때 놀라지 않도록 조심해야 한다. 심약자라면 더욱 만반의 준비가 필요하다. 기름값 때문이 아니다. 젊은 여자 아나운서가 중년 남성으로 변하는 장면을 목격할 수 있기 때문이다.
미국 내 옥외 TV 네트워크 매체인 GSTV(Gas Station TV)가 할로윈을 맞아 코로나 19로 취소된 할로윈 행사의 아쉬움을 채우고 인공지능을 이용한 사이버 범죄에 대한 경각심을 높이고자 딥페이크를 이용한 공익광고를 송출한다고 22일 미 브랜드 마케팅 전문지 에드위크(ADWEEK)가 보도했다.
광고 속 아나운서 마리아 메노노스(Maria Menounos)는 말하는 중 눈 깜짝할 사이에 중년 남성의 얼굴로 변한다. 남자는 듣기 거북한 목소리로 “난 너에 대한 많은 걸 알아. 멋진 차네”라고 경고를 하고 다시 여성의 모습으로 돌아간다.
미국은 대선이 코앞으로 다가오면서 인공지능을 이용한 가짜 뉴스 확산, 여론 조성 등 사이버 범죄에 대한 주의를 강조하고 있다. 이에 GSTV는 직접 두 신경망(생성자와 감별자)이 경쟁을 통해 학습하며 실제에 가까운 거짓 데이터를 만드는 생성적 적대 신경망(GAN)을 활용해 미리 학습한 여자와 남자의 모습을 구현한 광고를 다음 주부터 송출한다.
해당 공익광고를 제작한 ‘롤리팝(Lollipop)’팀은 2020년 언택트(Un-tact) 생활이 일상화되고 온라인 소통 유해에 맞춰 화상회의 서비스 줌(ZOOM)을 모티브로 신기술을 탑재해 '롤리팝 시즌2'로 더욱 오싹하게 찾아왔다.
롤리팝의 새로운 광고는 사용자가 직접 모르는 사람들과 화상대화를 하며 시작한다. 그들과 인사를 하고 나면 갑자기 불이 꺼지면서 이용자들이 하나씩 사라지고 한 여자와 함께 둘이 남게 된다. 몇 초 후 화면이 전환되며 여자의 모습이 중년 남성으로 딥페이크되고 눈이 뒤집힌 채 괴성을 낸다. 마지막엔 인증했던 본인의 얼굴이 딥페이크가 되어 또 다른사람과 이야기 하는 모습을 보여준다. 개인의 얼굴이 불순한 의도로 오용될 수 있음을 체험하게 한다.
제작자 제이슨 자다(Jason Zada)와 제이슨 니켈(Jason Nickel)는 “코로나19팬데믹 시대에 맞는 적절한 기술을 정당한 의도로 써야 한다고 생각했기 때문에 “할로윈과 대선에 앞서 사람들이 믿고 이용하는 줌을 모티브를 하고 역으로 딥페이크 기술을 이용해 경각심을 주고 싶었다"고 말했다. 니켈은 "주유소 광고의 기존 계획은 운전자의 얼굴을 실시간 딥페이크 시키는 것이었지만 기술적인 한계로 포기했다"고 밝혔다.
한편, 20일 사이버 보안업체 센시티(Sensity)가 지난해 7월부터 나체 사진 합성 인공지능 ‘딥페이크 봇(deepfake bot)‘을 운영하는 텔레그렘 방을 적발하며 인공지능을 이용한 범죄에 관한 관심이 커지고 있다. 피해를 본 여성의 수는 약 10만4852명으로 미성년자 사진들도 발견됐다.
운전자 직접 주유가 일상화된 미국에서는 한 달 약 9천 2백만 운전자가 자연스럽게 GSTV 광고에 노출된다. 미국 내 24,000개 이상의 주유소에 송출이 가능한 GSTV는 IPTV 형태의 디지털 사이니지 매체로 주유기 상단에 설치되어 광고한다.
2011년 페이스북 앱으로 공개된 롤리팝 시즌1은 신원미상의 남성 사용자의 페이스북을 해킹해 사진을 엿보고 집으로 찾아오는 장면을 연출했다. 이는 디지털 데이터 유출 주의를 위해 제작됐다. (영상 링크)
