중국이 생성 인공지능(AI) 서비스를 제공하는 기업을 위한 보안 지침을 발표했다. 특히 일부 '불순한' 데이터를 블랙리스트로 지정, AI 학습을 금지하기로 했다.
로이터는 12일(현지시간) 중국 사이버공간관리국(CAC), 산업정보기술부, 경찰 대표 등으로 구성된 국가 정보 보안 표준화 위원회가 AI 모델 훈련에 사용할 수 없는 소스 블랙리스트를 포함, 생성 AI 기업에 대한 보안 요구사항을 발표했다고 보도했다.
이에 따르면 위원회는 대중을 위한 생성 AI 모델은 훈련에 사용할 콘텐츠에 대한 보안 평가를 수행할 것을 요구했다. 이 과정에 ‘불법 및 유해 정보가 5% 이상’ 포함된 콘텐츠는 블랙리스트에 올릴 것을 지시했다.
불법 및 유해 정보는 ▲테러리즘이나 폭력을 옹호하는 행위 ▲사회주의 체제 전복 ▲국가 이미지 훼손 ▲국가 단결과 사회 안정을 훼손하는 행위 등이 포함된다. 또 중국 인터넷 중 검열을 통과하지 못하고 삭제된 데이터를 사용해서는 안 된다고 명시했다.
CAC는 지난 4월부터 기업들이 생성 AI 기반 서비스를 대중에게 출시하기 전에 당국의 보안 평가를 받을 것을 요구했다. 이를 위해 7월에는 서비스 가이드 라인을 발표했다. 전문가들은 이번 조치가 4월에 발표한 초안의 세부 사항보다 훨씬 기업 부담이 줄어들었다고 평가했다.
더불어 이번 지침에는 AI 모델을 훈련하는 기업이 생체 인식 데이터를 포함한 개인 정보를 훈련에 활용하는 경우 해당 개인들의 동의를 얻어야 한다고 규정했다. 지적 재산 침해를 방지하기 위한 포괄적인 지침도 제시했다.
이번 발표는 규제 당국이 바이두를 포함한 여러 중국 기술 기업이 생성 AI 기반 챗봇을 대중에게 출시하도록 허용한 지 불과 한달여 만에 나온 것이다.
전문가들은 생성 AI가 만들어 내는 콘텐츠가 중국의 사회주의 가치를 반영해야 한다는 점에서, 외국 기업의 생성 AI 서비스가 중국에 진출하거나 반대로 중국 기업이 해외로 진출하기가 어려워졌다고 지적했다.
한편 중국을 비롯, 전 세계 국가들은 AI 기술 규제를 위해 경쟁을 벌이고 있다. 규제 만능으로 알려진 중국조차도 이 분야를 미국과 경쟁 대상으로 여기고 있으며, 2030년까지 AI 규제의 세계적 리더가 되겠다는 목표를 세운 것으로 알려졌다.
박찬 기자 cpark@aitimes.com
