'챗GPT'나 '달리' 등 생성 인공지능(AI)이 각광받는 가운데 이를 이용한 콘텐츠를 책임있게 만들고 공유하자는 민간 캠페인이 시작됐다.
아직 AI 관련 규제 기준이 마련되지 않은 상황에서 민간이 스스로 책임성과 윤리를 지키자는 실천 운동에 나선 것이어서 주목된다.
오픈AI를 비롯한 기술 개발사와 BBC 또는 틱톡과 같은 콘텐츠 제작 및 배포사가 모두 해당 기술로 할 수 있는 것과 할 수 없는 것 및 사용할 수 있는 시기 등을 투명하게 공개하자는 내용이다.
MIT테크놀로지리뷰는 27일(현지시간) 비영리 AI 연구 단체인 파트너십온에이아이(PAI)가 50개 이상의 조직과 협의해 이같은 내용의 권장사항을 마련했고, 이에 오픈AI, 틱톡, 어도브, BBC를 비롯한 10개 기업이 동의했다고 보도했다.
데이팅 앱 개발회사인 범블과 CBC 라디오 캐나다, 인권단체 위트니스, AI 스타트업 신씨지아, 디-아이디, 리스피처 등도 참여했다.
이번에 마련한 권고사항은 AI 생성 콘텐츠에 대해 워터마크 등으로 표시할 것과 기술과 콘텐츠의 위험성을 소비자들에게 알릴 것 등의 20개 실천 항목으로 구성했다.
AI 생성물의 악용에 대응하는 연구와 기술적 해법, 문해력 제고를 위한 기획, 정책 대안 등을 마련하기 위해 협업한다는 항목도 담았다.
클레어 레이보위츠 PAI AI 책임자는 "우리는 AI 생성 콘텐츠가 사람들에게 해를 끼치지 않고 창의성과 지식을 공유하는데 사용되기를 원한다"고 취지를 설명했다.
반면 이 캠페인의 한계를 지적하는 목소리도 있다.
하니 파리드 캘리포니아 버클리대학 교수는 "자발적 지침과 원칙은 거의 효과가 없다"면서 "문제를 진정으로 해결하려면 진지하게 접근해야 한다"고 지적했다. 이를테면 워터마크를 자발적으로 넣자고 권하기 보다는 의무화해야 한다는 것이다.
또 일케 데미르 인텔 수석 과학자는 "해당 지침에 중요한 누락 사항이 있다"면서 "AI 모델이 어떻게 훈련됐는지나 어떤 데이터를 썼는지 혹은 편향이 있는지 여부를 밝히도록 해야 더 책임성 있게 AI 시스템을 만들수 있다"고 거들었다.
정병일 위원 jbi@aitimes.com
