빅테크 20곳 "딥페이크 선거 악용 방지책 공동 마련"

인공지능(AI)과 소셜 플랫폼 관련 20개 빅테크가 생성 AI 콘텐츠의 선거 악용을 방지하기 위해 공동 대책을 마련하기로 합의했다. 며칠 전 참가를 밝힌 기업 이외에도 X(트위터) 등이 추가로 합류했다.

로이터는 16일(현지시간) 20개 기업으로 구성된 그룹이 뮌헨 안보회의를 통해 AI 도구 활용 선거 방해 행위를 금지하기 위한 파트너십을 발표했다고 보도했다.

이에 따르면 이번 계약에는 오픈AI, 마이크로소프트(MS), 구글, 아마존, IBM, ARM, 어도비, 앤트로픽, 인플렉션 AI, 스테빌리티 AI 등 생성 AI 관련 기업과 메타, X, 틱톡, 스냅, 링크드인 등 소셜 플랫폼 등이 참여했다.  

또 바이든 대통령 목소리 합성에 사용된 것으로 알려진 일레븐랩스 외에도 맥아피, 노타, 트렌드 마이크로, 트루픽 등 보안 및  콘텐츠 감지 솔루션 관련 업체 등이 포함됐다.

지난 14일에는 오픈AI, MS, 구글, 메타, 틱톡, 어도비 등 6곳이 공동 성명을 통해 파트너십 공개를 예고한 바 있다. X는 당시 명단에 빠졌다.

이들은 ▲오해의 소지가 있는 AI 생성 이미지, 비디오 및 오디오를 감지하기 위한 도구 개발에 협력하고 ▲사기성 콘텐츠에 대해 유권자를 교육하기 위한 대중 인식 캠페인을 만들고 ▲서비스에서 위법성 콘텐츠에 대한 조치를 취하겠다고 약속했다. AI 생성 콘텐츠를 식별하거나 그 출처를 인증하는 기술에는 워터마킹이나 메타데이터 삽입이 포함될 수 있다.

하지만 구체적인 일정이나 각 회사가 이를 이행하는 방법 등은 명시하지 않았다.

닉 클레그 메타 글로벌 업무 담당 사장은 “이 합의는 참가한 기업의 폭이 넓다는 것이 장점”이라며 “개별 플랫폼이 관련 정첵을 모두 개발해도 좋겠지만, 공유된 상호 운용 가능한 방식으로 폭넓은 약속이 없다면 혼란에 빠지게 될 것"이라고 말했다.

즉 선거를 앞두고 관련 기업을 타깃으로 각국 정부의 압력이 심해지는 가운데 해당 기업들이 먼저 공동 대응책을 마련하겠다는 뜻을 밝힌 것이다.

특히 이번 선거에서는 이미지나 음성, 영상을 활용한 딥페이크가 가장 큰 문제로 꼽히고 있어, 이 점에 중점을 둘 계획으로 알려졌다.

다나 라오 어도비 최고 신뢰 책임자는 "사람들의 두뇌는 오디오, 비디오, 이미지를 쉽게 믿도록 구성돼 있다"라며 "이런 미디어에는 감정적인 연결이 있지만, 사람들은 텍스트에는 더 회의적인 경향을 보인다"라고 말했다.

임대준 기자 ydj@aitimes.com