올해 선거에서 인공지능(AI) 악용이 가장 우려됐던 메타가 관련 결과 보고서를 내놓았다. 적어도 메타의 플랫폼에서 심각한 일은 일어나지 않았다는 결론이다.
메타는 3일(현지시간) 홈페이지를 통해 '2024년 세계 선거에서 우리 플랫폼을 통해 본 것'이라는 보고서를 게시했다.
이는 미국과 인도를 비롯해 방글라데시, 인도네시아, 파키스탄, EU 의회, 프랑스, 영국, 남아프리카공화국, 멕시코, 브라질의 주요 선거와 관련된 콘텐츠를 조사한 결과다.
메타는 AI가 페이스북이나 인스타그램, 스레드 등 소셜 미디어에 미친 영향이 제한적이라고 밝혔다.
닉 크렉 글로벌 업무 부사장은 "AI를 악용한 사례가 확인되거나 의심되는 경우가 있었지만, 그 양은 여전히 적었고 기존 정책과 프로세스는 생성 AI 콘텐츠에 대한 위험을 줄이는 데 충분했다"라고 밝혔다.
특히 "위에 나열된 주요 선거 기간 동안 선거, 정치, 사회적 주제와 관련된 AI 콘텐츠에 대한 평가는 사실 확인된 모든 잘못된 정보의 1% 미만을 차지했다"라고 설명했다.
또 메타의 이미지 생성 AI는 미국 대선을 앞둔 한달 동안 도널드 트럼프 당선인과 카멀라 해리스 부통령, 조 바이든 대통령 등의 이미지를 만들어 달라는 요청 59만건을 거부했다. 이는 오픈AI가 밝힌 챗GPT의 이미지 생성 요청 25만건의 두배를 넘는다.
허위 정보를 퍼뜨리려는 중동, 아시아, 유럽 등 국제적인 조직의 움직임 20개를 차단했다고도 밝혔다. 하지만 중단시킨 계정은 대부분 인기가 없어 방문자도 거의 없었다는 설명이다.
이럼 분석은 미국 대선이 끝난 직후에도 등장했다. 가장 큰 이유로는 이미 사용자들이 딥페이크나 가짜 뉴스에 대한 충분한 경고를 받고 우려를 가지고 있었다는 것이 꼽혔다.
특히 올해 초 발생한 바이든 대통령의 목소리 AI 복제 사건이 결정타였던 것으로 알려졌다. 이 문제는 이후 조사와 재판 진행에 따라 이후에도 몇개월간 미국 전 매체가 주요 이슈로 다뤘기 때문이다.
또 메타나 구글 등은 1년 전부터 선거에 대비한 각종 조치를 내놓았다. 오픈AI와 같은 기술 기업은 아예 챗봇에 관련 질문에 대한 답변을 거부하게 했다.
한편, 메타는 문제는 자신들이 아니라 X(트위터)나 텔레그램이라고 지적했다. "조사 대상이 된 문제의 웹 도메인 중 다수는 X나 텔레그램에서 활성 상태를 유지하고 있다"라는 설명이다.
임대준 기자 ydj@aitimes.com
