중국이 온라인에 게시된 모든 인공지능(AI) 생성 콘텐츠에 대해 라벨을 붙이는 방법을 추진 중이다. 여기에는 이미지나 영상은 물론, 텍스트까지 포함된다. 또 서비스 제공자와 이용자도 이를 준수하지 않을 시 처벌된다고 예고했다.
중국 사이버공간 관리국(CAC)은 14일 '인공지능에 의해 생성된 합성 콘텐츠 표시 방법(의견용 초안)'을 공개하고 한달 동안 공개 의견 모집에 나선다고 발표했다.
이에 따르면 생성 AI로 전체 또는 일부로 생성한 콘텐츠가 포함되면 텍스트나 사운드, 그래픽 등으로 명시적인 'AI 생성' 표시를 내걸어야 한다. 또 파일의 메타데이터에는 합성 콘텐츠, 서비스 제공 작성자 이름이나 코드, 콘텐츠 번호 및 기타 제작 요소 정보 등을 표시해야 한다.
특히 서비스 제공자는 생성 표시가 없는 콘텐츠라도, 합성의 흔적을 탐지하거나 의심되는 경우에는 경고 표시를 추가해야 한다. 이는 사실상 서비스 제공자가 모든 파일을 체크해야 한다는 말이다.
사용자 역시 AI 생성 콘텐츠를 업로드할 때 플랫폼이 제공하는 식별 기능을 적극적으로 사용해야 한다.
CAC는 "어떤 조직이나 개인도 합성 콘텐츠 식별자를 악의적으로 삭제, 변조, 위조 또는 은폐해서는 안 된다"라고 못 박았다. 이어 "규정을 위반하고 생성된 합성 콘텐츠에 라벨을 붙이지 않아 심각한 결과를 초래한 경우, 관련 법률과 행정법규 및 규정에 따라 중국 인터넷 관리국 등 유관 주관 기관이 처벌한다"라고 명시했다.
중국은 이에 앞서 두차례에 걸쳐 관련 규칙을 발표했다.
지난해 1월에는 딥페이크 규제를 위해 서비스 제공자와 시용자가 사실을 밝히고 원본을 추적할 수 있도록 조치했으며, 이어 지난해 8월에는 생성 AI 서비스 제공자들은 당국에 서비스를 등록하고 제품 출시 전 보안 평가를 수행해야 한다고 규정했다.
또 최근에는 '사회주의 AI' 강화를 위해 챗봇은 물론, 동영상 모델까지 사상 재검열을 실시한 것으로 알려졌다.
이번 초안은 이제까지 등장한 조치 중 가장 광범위한 것이다. 특히 온라인 서비스 제공자에게도 책임을 부과, 플랫폼 차원의 대규모 조치가 불가피하게 됐다.
임대준 기자 ydj@aitimes.com
