美 대선 앞두고 딥페이크를 통한 선거 영향 우려 확산
패러디‧풍자나 단어 생략‧어순 변경 편집 영상은 제외
(AI타임스=윤영주 기자) 소셜네트워크서비스(SNS) 페이스북이 올해 미국 대선을 앞두고 ‘딥페이크(deepfake)’로 알려진 인공지능(AI)을 통한 조작 동영상의 게재를 금지한다.
딥페이크란 딥러닝과 페이크의 합성어로 AI 기술 기반 알고리즘을 활용해 조작된 이미지나 동영상을 말한다.
지난 7일(현지시간) 영국 BBC 등 외신들에 따르면 페이스북의 모니카 비커트(Monika Bickert) 글로벌 정책 관리 부사장은 자사 블로그를 통해 ”이 같은 딥페이크 동영상이 인터넷상에서 아직은 흔하지 않지만 점점 더 널리 퍼지면서 산업과 사회에 중대한 도전장을 던지고 있다“고 전했다.
앞으로 페이스북은 자사의 플랫폼에 올라온 동영상이 불분명한 방식으로 편집‧합성됐거나 동영상 속 인물이 실제로 하지 않은 발언을 했다고 여겨질 경우 영상을 삭제하겠다고 설명했다. 이번 페이스북의 새로운 방침은 패러디나 풍자 동영상에는 적용되지 않는다. 또 단순히 일부 단어를 생략하거나 어순을 바꾸기 위해 편집한 동영상도 금지 대상이 아니다.
더불어 페이스북은 과도한 노출이나 그래픽 폭력, 유권자 억압, 경멸적 발언이 포함된 동영상도 향후 삭제해 나가겠다고 덧붙였다.
특히 올해 대선을 앞둔 미국의 경우 이 같은 딥페이크 기술을 악용한 조작 동영상이 유포돼 선거 결과에 영향을 미칠 수 있다는 우려가 제기되고 있어 이 같은 페이스북의 결정은 시사하는 바가 크다.
앞서 지난해 9월 페이스북은 딥페이크 탐지 기술 개선을 위한 기금에 1,000만 달러(약 117억 6,000만 원)를 기부했다고 발표한 바 있다. 이 밖에 구글과 마이크로소프트와 같은 기업들도 딥페이크 퇴치에 나서고 있다.
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com