인공지능(AI)이 생성한 콘텐츠의 인종차별적인 요소를 AI로 판별하는 시스템이 등장했다. 편향 없는 새로운 데이터셋을 학습한 AI를 '감별사'로 활용한다는 내용이다.
전문 매체 벤처비트는 14일(현지시간) X스테레오타입(X_Stereotype)이 생성 AI 콘텐츠의 인종차별적 요소를 평가하는 플랫폼을 선보였다고 소개했다.
이에 따르면 X스테레오타입은 최근 기업의 생성 AI 도입이 늘어나며 마케팅 부서에서 만들어 낸 콘텐츠가 인종차별적이라는 지적을 받는 데 착안했다. 대표적인 것이 최근 리바이스가 AI 업체인 라라랜드닷에이아이와 제휴, 'AI 모델'을 선보인 일이었다. 이는 기존 모델은 물론 특히 유색 인종 모델로부터 '다양성 부족'이라는 맹비난받았다.
래리 아담스 X스테레오타입 대표는 "과거에는 주로 백인 남성이 광고를 만들었고, 그 결과 AI가 학습하는 광고 데이터는 대부분 인종적으로 편향적일 수밖에 없었다"라며 "우리는 문제가 데이터셋에 있다는 점에 집중했다"라고 말했다.
새 AI 모델을 구축하기 위해 연령, 성별, 소득, 결혼여부 등과 같은 인구 통계 데이터를 바탕으로 다문화 사회의 복잡성을 반영하는 400만개의 새로운 데이터 신호를 매일 생성했다.
이를 학습한 AI 모델은 특정한 콘텐츠가 인종과 문화의 다양성을 반영하고 있는지를 40개의 지표로 판별해 낸다. 실제 특정 콘텐츠를 보고 사람들이 보이는 반응을 점수로 변환하는 방식이다.
이 플랫폼은 이미 팬듀얼, 치포틀, 밥 에반스, P&G 등 굵직한 기업에서 도입했고, 기업의 광고 컨셉트 체크부터 슈퍼보울 광고의 평가까지 다양한 콘텐츠 단계에 활용해 호평을 얻었다고 전했다.
이 회사는 인종차별 평가 AI 시스템이 기업의 평판은 물론 비용 절감에도 도움이 된다고 강조했다. 즉 광고 기획 초기 단계에서 빨리 문제를 파악, 제작비 낭비를 줄이고 반면 광고 효과는 배가할 수 있다는 주장이다.
2년간 AI 및 대규모 언어 모델(LLM) 개발을 진행한 아담스 CEO는 “우리의 목표는 마케팅에 도움이 되는 것은 물론 좋은 사회와 좋은 문화를 만드는 것에도 영향을 미치는 것"이라고 말했다.
강두원 기자 ainews@aitimes.com
