미국 연방통신위원회(FCC)는 21일(현지시간) 뉴햄프셔주 민주당 예비선거에서 사람들에게 투표하지 말라고 설득하기 위해 조 바이든 대통령을 모방한 가짜 인공지능(AI) 로보콜을 전송했다는 혐의로 이동통신사 링고 텔레콤이 100만달러(약 13억3600만원)의 벌금을 내는 데 최종 합의했다고 밝혔다.
FCC는 링고 텔레콤이 생성 AI 음성 복제 기술을 사용한 허위 정보를 퍼뜨리기 위해 가짜 로보콜을 전송했으며, 이 과정에 발신 내용을 확인하지 않은 혐의가 있다고 발표했다. 이 전화 통화는 정치 컨설턴트인 스티브 크레이머가 일레븐랩스의 음성 복제 기술을 사용해 제작한 것으로 알려졌다.
FCC는 링고텔레콤에 로보콜을 전송한 혐의로 당초 200만달러(약 26억7000만원)의 벌금을 부과했다. 이번 합의로 벌금은 낮아졌으며, 대신 링코 텔레콤은 FCC의 발신자 ID 인증 규칙을 엄격히 준수하는 계획을 시행할 것이라고 전했다.
로얀 이걸 FCC 시행국장은 "이번 합의는 통신 서비스 제공자가 이런 위협에 대한 최전선 방어선이며, 국민을 보호하기 위해 자신의 역할을 다해야 한다는 강력한 메시지를 전달한다"라고 말했다.
수천명의 뉴햄프셔 주민에게 11월까지 투표하지 말라는 내용의 로보콜 메시지를 작성한 크레이머는 기소됐다. 크레이머는 링고 텔레콤에 500달러를 지불했다고 밝힌 바 있다. 크레이머는 600만달러(약 80억원)의 벌금을 내도록 지시받았다.
이번 사태는 FCC가 AI 복제 음성 자동녹음 전화를 불법으로 규정하는 결과도 낳았다. 또 FCC는 지난달 방송 라디오와 TV 정치 광고에서 해당 콘텐츠가 AI에 의해 생성되었는지를 공개하도록 요구하는 안을 투표로 통과했다.
이처럼 미국에서는 AI 생성한 콘텐츠가 11월5일 대선과 의회 선거에서 유권자들을 오도할 수 있다는 우려가 커지고 있다.
임대준 기자 ydj@aitimes.com
