인공지능(AI)으로 생성한 인종차별적인 영상이 틱톡에서 수백만건의 조회수를 기록하는 것으로 알려졌다.
미디어매터스는 최근 이런 내용을 보도하며, 영상 제작에 구글의 '비오 3'가 사용된 것으로 보인다고 덧붙였다.
이에 따르면, 이런 영상들은 인종차별적인 은유로 가득 차 있으며, 그중 상당수는 흑인을 표적으로 삼고 있다.
예를 들어, 튀긴 닭고기와 수박을 먹는 것은 오랫동안 흑인에 대한 인종 차별적 고정관념이었으며, 이 콘텐츠에서도 반복적으로 등장한다. 흑인에 대한 경찰의 폭력이라는 주제도 자주 보인다.
또 일부 영상에서는 남아시아 사람들을 더럽다고 묘사하는 내용도 있다. 120만회 조회수를 기록한 영상에는 남아시아 남성이 샤워기 헤드와 비누에 쫓기면서 "안 돼"라고 소리치는 모습이 담겨 있다.
1420만 조회를 기록한 클립을 포함한 다수 영상에는 '비오' 워터마크가 드러나 있다. 또 비오 3라는 해시태그나 캡션, 사용자 이름 등도 포함돼 있다. 또 영상은 8초 분량으로, 비오 3의 제한과 일치한다.
구글은 지난달 비오 3를 출시하며 웹사이트에 "유해한 요청과 결과를 차단할 것"이라고 밝혔다. 틱톡도 "증오 표현과 증오 행위가 용납될 수 없다"라고 명시돼 있다.
이와 관련, 틱톡은 더 버지에 보낸 성명을 통해 "우리는 증오적 발언과 행동에 대해 강력한 규칙을 적극적으로 시행하고 있으며, 지적된 계정을 삭제했다. 또 상당수 계정은 보도되기 전 이미 금지된 상태였다"라고 밝혔다.
그러나 일부 영상은 유튜브나 다른 사이트에도 남아 있는 것으로 확인됐다.
비오 3는 뛰어난 영상 퀄리티와 음향 및 음성을 통합한 시스템으로 인해 큰 인기를 얻고 있다.
다만, 챗GPT는 지브리 스타일이라는 선호 콘텐츠로 화제가 된 반면, 비오 3는 엉뚱하게 혐오 동영상으로 주목받고 있다. 물론, 챗GPT도 저작권 문제가 지적됐다.
임대준 기자 ydj@aitimes.com
