메타 "정치 광고 제작에 생성 AI 사용 금지"...딥페이크 논란 원천 봉쇄

세계에서 두번째로 큰 디지털 광고 플랫폼 메타가 내년 미국 대선을 앞두고 광고주들이 생성 인공지능(AI) 도구로 정치 광고를 제작하는 것을 전면 금지했다. 구글 역시 비슷한 방침을 가진 것으로 알려져, 이번 발표는 향후 생성 AI 광고 정책의 기준이 될 것으로 보인다.

로이터는 7일(현지시간) 메타가 정치 광고 제작에 자사의 생성 AI 제품을 사용하는 것을 금지한다는 방침을 발표했다고 보도했다.

이에 따르면 메타는 전날 홈페이지를 통해 "주택, 고용, 신용, 사회 문제, 선거, 정치 또는 건강, 제약 또는 금융 서비스와 관련된 광고 캠페인을 운영하는 광고주는 생성 AI 기능을 사용하도록 허용되지 않는다"라는 내용을 공개했다. 또 "이런 방식을 통해 잠재적인 위험을 잘 이해하고 민감한 주제와 관련된 광고에 생성 AI를 사용하기 위한 올바른 보호 장치를 구축할 수 있다고 믿는다"라는 설명이다.

메타는 올봄부터 일부 광고주를 대상으로 광고 제작용 생성 AI 도구를 배포해 왔다. 당초 계획은 내년까지 전 세계 광고주에게 출시할 예정이었다.

더불어 세계 최대의 디지털 광고 플랫폼인 구글도 비슷한 방침을 밝혔다. 

구글은 지난주 광고주를 위한 생성 AI 도구를 출시했는데, 정치적 키워드 목록에 포함된 프롬프트 입력을 차단하겠다고 밝혔다. 또 이달 중순에는 선거 관련 광고에 "실제 또는 사실적으로 보이는 사람이나 사건을 허위로 묘사하는 합성 콘텐츠가 포함된 경우" 사실을 공개할 것을 요구하는 정책 업데이트를 계획 중인 것으로 알려졌다.

한편 주요 디지털광고 플랫폼인 틱톡이나 스냅챗은 아예 정치 광고를 금지하고 있으며, X(트위터)는 생성 AI 도구를 출시한 바 없다.

내년 미국 대선을 앞두고 가짜뉴스나 딥페이크에 대한 경계가 늘어나자, 상당수 업체는 합성 여부를 밝히는 표시나 워터마크 도입을 추진했다. 그리고 이제는 광고주에게 제공하는 생성 AI 기능을 아예 막는 분위기다.

물론 광고주 대상으로 생성 AI 사용을 금지한다고 해서, 가짜뉴스나 딥페이크가 전반적으로 줄어드는 것은 아니다. 다만 빅테크들로서는 자신들의 도구로 문제를 일으켰다는 책임에서 벗어날 수 있게 된다.

임대준 기자 ydj@aitimes.com