(AI타임스=윤광제 기자) 페이스북은 최근, '허위 정보(즉, 가짜 신분을 가장한 계정)에 대한 계정 네트워크를 다운시켰다고 발표했다.
페이스북측은 이와 관련 성명을 통해 "이들 계정 중 일부는 인공 지능에 의해 생성된 프로필 사진을 사용해 미국인으로 가장했다"고 밝혔다.
소셜 미디어 회사는 내부 조사를 통해 계좌를 발견했다고 말했지만, 사실 확인을 위한 독립적인 기관의 연구원들이 많은 계좌들을 발견한 지 불과 며칠 후에 가격 인하가 이루어졌다.
페이스북이 조사한 결과 미국의 미디어 회사인 TheBL은 대중에게 가짜 이미지에 대한 교육을 돕기 위해 미시건 대학의 연구원이 만든 사이트인 ThisPersonDoesNotExist.com에서 생성된 인공 지능 생성 프로필 사진을 이용한 계정을 발견했다.
가짜 이미지 생성방식은 해당 페이지를 새로 고칠 때마다 새 사진이 생성되는 것이다. 결과적인 이미지들은 누군가의 선생님, 정육점 주인이나 버스 운전사로 착각할 수 있는 사람처럼 보이지만 실제로 존재하는 사람은 아무도 없다.
이 얼굴들은 모두 '딥페이크' 비디오에 들어가는 것과 유사한 기술을 사용해 인공적으로 만들어지는데, 실제 비디오는 피실험자들이 결코 말하지 않은 말을 하는 것처럼 보이게 하기 위해 편집된다.
AI 연구 회사인 그래피카와 애틀랜틱 평의회의 디지털 포렌식 연구소가 공동으로 작성한 보고서에서는 페이스북이 삭제한 계정에서 인위적으로 만든 얼굴들을 어떻게 확인했는지에 대해 개략적으로 설명했다.
인공 지능을 사용하여 생성된 이미지는 특히 GAN이라고 알려진 기계 학습 방법에 의해 생성된 것으로 안경이나 귀걸이와 같은 인간의 얼굴에 대칭이어야 하는 특징과 배경 디테일로 인해 악명 높다. 이 방송사의 프로필 사진에는 이 세 가지 모두에 대한 이야기가 나와 있다. 페이스북은 이번 발표에 앞서 그라피카와 대서양협의회에 분석을 위한 정보를 제공했다.
보고서는 900개가 넘는 계정 중 수십개가 AI로 만들어진 가짜 얼굴을 프로필 사진으로 사용했다고 밝혔다. 이 사진들은 육안으로는 완전히 정상으로 보이지만, 전문가의 분석은 이 보고서의 아래 이 예에서 요약한 것처럼 사진이 조작되었다는 명백한 징후를 보여준다.
610개의 페이스북 계정, 89개의 페이스북 페이지, 156개의 그룹 그리고 72개의 인스타그램 계정은 베트남과 미국에서 시작되었다.
페이스북은 보고서에서 "이 활동의 배경이 된 사람들은 페이지와 그룹을 관리하고, 매우 높은 빈도로 게시물을 자동화하고, 오프플랫폼 사이트로의 트래픽을 유도하기 위해, 우리 시스템에 의해 자동으로 제거된 가짜 계정을 광범위하게 이용했다"고 밝혔다.
"페이지 관리자와 계정 소유자들은 일반적으로 탄핵, 보수 이념, 정치 후보, 선거, 무역, 가족 가치, 종교의 자유 등 미국의 정치 뉴스와 이슈에 관한 밈과 기타 내용을 게재했다."
페이스북은 2000년 중국에서 금지된 파룬궁 운동과 밀접한 관계를 가진 온라인 사이트인 에포크 타임스와 계정을 연결했다.
에포크 타임스는 이전에도 음모론을 펴내 화제를 모았는데, 이 중 일부는 2016년 미국 대통령 선거 운동과 관련이 있었다.
그러나 에포크 타임즈는 지난 주에 삭제된 페이스북 페이지를 만든 책임이 없다고 부인하고 있다.
스티븐 그레고리 에포크 타임즈 발행인은 "에포크 타임즈와 BL 미디어 회사는 아무런 연고가 없다. BL은 전직 직원이 설립했고, 우리 전직 직원들 중 일부를 고용하고 있다. 하지만 BL을 위해 일하는 전직 직원들도 있다는 것은 두 조직 사이에 어떤 연관성도 입증하지 못한다고 말했다. BL은 ABC 뉴스의 논평 요청에 응답하지 않았다.
최근에 많은 웹사이트들이 생겨났고, 각각의 웹사이트들은 존재하지 않는 사람들의 인위적인 이미지를 만들어냈다.
ABC 뉴스는 최근에 비슷한 사이트를 만든 이반 브라운과 인터뷰를 했다. “셀을 편집하는 대신 개체와 사람을 편집할 수 있다는 점을 제외하면 포토샵과 같다. 그 사람의 기분을 편집할 수 있다. 당신은 그를 더 행복하게 만들 수도 있고 더 젊게 만들 수도 있고 다른 민족으로 만들 수도 있다” 고 브라운이 말했다.
그는 자신이 마케팅이나 주식 사진 촬영에 사용될 도구를 만들었다고 주장하지만, 그 기술이 오용될 수 있다는 것을 인정한다. “예를 들어, 그것은 분명히 페이스북의 문제야”라고 그는 말했다. “지금 당장 구글 이미지에서 이미지를 찍어 프로필 사진으로 올리면 곧바로 계정 차단이 가능하다”고 설명했다.
브라운은 그 기술은 쉽게 접근할 수 있고 생성되는 것을 볼 수 없다고 강조했다.
지난 6월 전문가들은 하원 청문회에서 “딥페이크를 만드는 방법에 대한 지침은 인터넷에서 쉽게 접할 수 있고, AI 전문 지식이 없는 고등학생은 하루아침에 조작된 사진이나 동영상을 만들 수 있다”고 말했다.
그는 또 “우리는 더 이상 어떤 사진이나 비디오도 진짜라고 가정해서는 안 된다”고 전제한 뒤 "인터넷을 사용하기 전에 인쇄된 모든 것은 사실 확인을 거쳤다. 사람들은 인쇄된 것이 진실이라고 추측하지만, 더 이상 그렇지 않다. 특히 더 나이 든 세대의 사람들이 이것을 위해 애쓰고 있다고 생각한다"고 덧붙였다.
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com