인공지능(AI)으로 생성한 가짜 홀로코스트 피해자 이미지가 페이스북을 통해 대량 유포되는 것으로 드러났다. 사용자들에게 감동적인 이야기를 전하는 듯 위장해 수익을 올린다는 의도인데, 이는 역사 왜곡과 희생자들에 대한 모욕이라는 지적이다.
BBC는 29일(현지시간) 최근 ‘AI 슬롭(AI slop)’ 조사 결과, 문제 이미지가 다수 발견됐다고 보도했다. AI 슬롭이란 AI로 생성한 무가치한 콘텐츠를 말한다.
또 홀로코스트 추모 및 연구 기관들은 이런 게시물이 생존자와 유가족에게 큰 상처를 주고 있다고 지적했다. 특히, 페이스북 모회사 메타가 “역사적 비극의 희화화를 방치하고 있다”라고 강하게 비판했다.
제2차 세계대전 당시 아우슈비츠 수용소 내부에서 촬영된 사진 중 남아 있는 것은 극히 제한적인 수량이다. 그러나 최근 몇달 동안 페이스북에는 수용소에서 바이올린을 켜는 수감자, 철조망 근처에서 연인들이 만나는 장면 등 허구의 장면을 담은 AI 합성 이미지가 수만건의 ‘좋아요’와 공유를 기록하며 퍼져나갔다.
파벨 사비츠키 아우슈비츠 기념관 대변인은 BBC에 “누군가가 사실을 왜곡해 소셜미디어에서 기묘한 감정 게임을 벌이고 있다”라며 “이것은 결코 놀이가 아니다. 실제 세계에서의 고통이며, 반드시 기려야 할 희생자들”이라고 강조했다.
BBC 조사에 따르면, 이들 가짜 이미지는 파키스탄을 기반으로 활동하는 콘텐츠 제작자 네트워크와 연결돼 있다. 이들은 메타의 ‘콘텐츠 수익화’ 프로그램을 악용해 조회 수와 참여도를 통해 돈을 벌고 있다. 일부 계정은 조회수 수억회로 수만달러를 벌었다고 주장했지만, 사실인지는 확인되지 않았다.
이 계정들은 '아우슈비츠에서 기차선로에 버려진 아기'나 '마룻바닥 밑에 숨은 아이'와 같은 가짜 이야기를 꾸며내며, AI로 조작된 이미지와 가짜 스토리를 퍼뜨리고 있다.
아우슈비츠 박물관은 지난 6월 이미 경고를 내고, 이런 AI 콘텐츠가 역사를 왜곡하고 희생자의 명예를 훼손하는 위험한 행위라고 지적했다. 최근 기념관이 올린 게시물에도 “이것도 AI 합성 아니냐”라는 댓글이 달리는 등, 역사 교육 활동 자체가 흔들리고 있다는 우려도 나온다.
국제 홀로코스트 기념연맹(IHRA)의 로버트 윌리엄스 박사는 “생존자들은 자신들의 노력이 충분치 않았다는 좌절감을 느끼고 있다”라며 “마지막 생존자들이 곧 세상을 떠나게 될 시점에서 이는 매우 슬픈 일”이라고 말했다.
BBC는 인도, 베트남, 태국, 나이지리아 등에서도 유사한 AI 콘텐츠 제작 계정들을 확인했다. 일부 제작자들은 아예 AI 모델을 활용해 ‘연속적으로 가짜 역사 이미지를 만드는 방법’을 공유하는 교육 영상을 제작하고 있었으며, 수익 극대화를 위해 계정 이름을 소방서나 기업, 인플루언서 계정으로 위장하는 사례도 포착됐다.
메타는 BBC가 제보한 일부 계정과 그룹을 삭제했으며, “이미지 자체가 콘텐츠 정책을 위반하지는 않지만, 계정 매매·사칭·스팸 활동에 해당해 조치를 취했다”라고 밝혔다.
박찬 기자 cpark@aitimes.com
