GAN(생성적 적대 신경망, Generative Adversarial Networks) 기술이 빠르게 발전하고 있다. GAN을 활용해 만든 수천 장의 사진 속 얼굴은 실제로 존재하는 사람 같다. 어디에서 본 것 같은 착각을 불러 일으킨다. 괜히 ‘가짜를 진짜처럼 만드는 AI’라고 불리는 게 아니라는 것을 실감하게 된다.
문제는 GAN으로 만든 ‘진짜 사람 같은 가짜 사진’을 향한 수요과 공급이 증가하고 있다는 것이다. 제너레이티드.포토스에 접속하면 사진 한 장당 2.99달러(약 3300원), 1천 장에 1000달러(약 111만원)를 지불하고 구매할 수 있다. GAN 기술로 완성한 260만 장 이상 사진을 브라우징(훑어보기)만 하는 경우에는 무료로 가능하다.
또다른 사이트 ‘이 사람은 존재하지 않습니다(thispersondoesnotexist.com)’는 방문자가 직접 GAN으로 가짜 얼굴을 만들어 보는 서비스를 제공한다. 사진에 쓰인 코드나 파일을 오픈소스로 공개해 다운받을 수 있도록 한 것이다.
사용자 임의대로 사진 속 얼굴의 인종을 바꿀 수도, 젊게 보이거나 나이 들어 보이게도 만들 수 있다. 로즈버드.ai는 다양한 표정부터 말하는 입모양까지 생성하도록 도와주는 앱이다.
이같은 풍토를 저지하기 위해 뉴욕타임스(NYT)가 나섰다. NYT는 21일(현지시간) GAN으로 “가짜 얼굴을 만드는 것이 얼마나 쉬운 일인지 알기 위해” 엔비디아에 협조를 구해 자체적으로 AI 시스템을 가동했다.
실험 결과 NYT 측은 AI가 각각의 얼굴을 수학적 수치로 계산한다는 사실을 알아냈다. 이목구비 크기 및 모양을 결정하는 값은 변경이 가능하다. 때문에 다른 값을 선택할 경우 이전 이미지와 전혀 다른 얼굴이 탄생할 수 있다.
이외에도 NYT는 새로운 방법을 시도했다. 이들은 특정 이미지값을 결정해 이동시키는 일반적인 접근에서 벗어나 판이한 두 개의 이미지를 먼저 생성했다. 이후 모든 값의 시작과 끝을 생성하고 그 사이에 이미지를 새로 만들어냈다.
이렇게 GAN으로 수십 장의 진짜 같은 가짜 사람 사진을 찍어내면서 NYT는 이 기술이 완벽하지 않다는 점을 발견했다. 아래는 NYT가 밝혀낸 사진 속 다양한 오류에 관한 설명이다. 자칫 속기 쉬운 미세한 부분이지만 알고나면 다시는(?) 그냥 지나치기 힘들 ‘옥에 티’를 소개한다.
◆ 액세서리에 주목
가짜사진과 진짜를 구별하는 가장 단순한 방법 중 하나는 액세서리를 유심히 살펴보는 것이다. 일례로 GAN으로 생성된 가짜 사진은 양쪽 귀걸이 모양이 다르다.
◆ 눈이 어디를 보고 있는 걸까
대체로 GAN은 얼굴 위치가 중앙집중된 포즈로 훈련을 거듭한다. 이목구비도 마찬가지다. GAN이 만든 사진을 유심히 살펴보면 두 눈이 어딘가 부자연스러운 것을 느낄 수 있다. 양 눈의 중심초점이 같은 곳을 보기 때문이다.
◆ 안경 프레임으로 가짜인지 진짜인지 구별 가능
안경이 그럴싸해 보이는가? 절대 속지 말자. 반반씩 나누어 보면 프레임 모양이 확연히 다르다. 실제 파는 안경이 아닌 그야말로 ‘짜집기’로 탄생된 사진이기에 가능한 실수다.
◆ 양쪽 귀 모양이 다른 사람이 실제로 존재할 가능성은?
귀 모양도 마찬가지다. 매번 격렬하게 바닥에 귀를 부딪치는 레슬러가 아닌 이상 양쪽 귀 모양이 다른 사람은 이 세상에 거의 존재하지 않는다.
NYT는 “인터넷 트롤을 비롯한 숨은 정치선동가들, 전문해커 등 사악한 의도를 가진 사람들에 의해 GAN이 악용되고 있다”고 꼬집었다. 이어 “이를 저지하기 위해서라도 일반 사람들이 GAN과 실제 사진을 구분하는 한두 가지 방법쯤은 알고 있어야 한다”고 강조했다.
