메타, 타사 AI 생성 이미지도 라벨 적용..."페북·인스타 모든 이미지 대상"

메타가 페이스북과 인스타그램, 스레드 등 운영 중인 모든 소셜미디어의 인공지능(AI) 생성 이미지에 표식을 붙인다. 미국 대선 등 세계 곳곳의 주요 선거를 앞두고 딥페이크나 가짜 뉴스에 휘말리지 않기 위한 조치다. 

메타는 6일(현지시각) AI로 생성된 이미지를 분명히 식별할 수 있도록 페이스북과 인스타그램, 스레드에서 AI 생성 이미지에 라벨링을 시작한다고 블로그를 통해 발표했다.

메타는 그동안 자체 AI 도구 '메타 AI'를 사용해 만든 이미지에 '이매진드 위드 AI(Imagined with AI)’라는 라벨을 붙여왔다. 앞으로는 이런 방식을 구글, 오픈 AI, 마이크로소프트, 어도비, 미드저니, 셔터스톡 등 다른 회사의 이미지 생성 도구로 만든 AI 이미지에도 적용한다는 것이다.

AI로 만들어진 이미지에 보이지 않는 워터마크나 메타데이터 등 라벨을 붙이는 기술을 연구해 왔고, 현재 외부 AI 도구로 생성한 이미지까지 인식할 수 있게 됐다고 전했다. 이를 통해 앞으로 몇달 안에 페이스북과 인스타그램, 스레드에서 AI 생성 이미지를 사용자들이 식별할 수 있게 만들겠다는 방침이다.

다른 회사들과 협력해 공통 표준을 개발하기 위해 노력 중이라고도 밝혔다. 메타의 식별 도구가 다른 회사의 모든 AI 생성 콘텐츠를 잡아낼 수 없고, 워터마크나 표식을 지울 방법도 존재하는 만큼 해결 방안을 모색 중이라는 설명이다.

또 "오디오와 비디오 콘텐츠를 표시하는 도구는 더 복잡하다"라며 "현재 관련 기술 개발이 이뤄지고 있다"라고 밝혔다.

이는 최근 딥페이크에 대한 우려가 커진 데다, 소셜미디어가 이런 콘텐츠 게시에 대해 칙임져야 한다는 목소리가 높아진 데 따른 것이다.

지난달 말 팝스타 테일러 스위프트의 사진을 합성한 딥페이크 이미지가 소셜미디어 X 등에서 확산한 사건이 계기가 됐다. 

마크 저커버그 메타 CEO도 최근 AI로 생성한 아동 학대 이미지가 소셜미디어에 게시된 사건으로 청문회에 출석하기도 했다. 특히 이 자리는 미국 국회가 불법 게시물에 대한 플랫폼 기업의 책임을 묻는 입법안 추진 과정에서 이뤄진 자리였다.

특히 세계 최대의 SNS 기업인 메타는 미국 대선을 앞두고 당국으로부터 더 강력한 AI 생성 콘텐츠 정책을 만들라는 압박을 받아온 것으로 알려졌다.

박찬 기자 cpark@aitimes.com