▲구글이 온라인 어린이 성적 학대 방지를 위한 AI 도구를 선보인다(출처=플리커)

구글(Google)이 온라인 아동 성적 학대 자료(CSAM)를 신고할 수 있는 새로운 인공지능(AI) 도구를 출시한다. 이 기술은 콘텐츠 안전 응용프로그램 인터페이스(Content Safety API)로, 회사나 비정부 조직, 기타 단체에 무료로 제공된다.

온라인에서 CSAM 확산

이 소식은 구글이 온라인 상에서 온라인 아동 성적 학대 자료(CSAM)를 퍼뜨린 범법자를 확인한 시점에서 나온 것이다. 영국 국가범죄기관(National Crime Agency)에 따르면 영국에서만 8만 명의 사람들이 온라인 상에서 어린이들을 위협하고 있다.

사지드 자비드 영국 내무장관은 온라인에서 자행되는 아동 성적 학대에 대처하기 위해 구글이나 페이스북(Facebook) 등의 기술 대기업이 더 적극적으로 개입해주기를 바란다고 말했다. 그는 "온라인 플랫폼에서 이런 종류의 끔찍한 콘텐츠가 돌아다니지 않도록 방지하는 것이 기업이나 사회가 해야 할 올바른 일이다. 그러나 현실의 위협은 업계의 반응보다 빠르게 진화하고 있다. 이런 문제를 진지하게 받아들이지 않는 기업도 많다"고 덧붙였다.

 

“영국 국가범죄기관에 따르면, 영국에서만 8만 명의 사람들이 온라인으로 어린이들을 위협하고 있다”

 

 

AI 활용해 CSAM 차단

구글의 니콜라 토도로비치와 아비 차드후리는 구글의 콘텐츠 안전 API에 대해 설명하며 이것이 기존의 기술을 크게 발전시켜 서비스 제공 업체, NGO 및 기타 기술 업체들이 콘텐츠를 검토하는 방법을 향상시킬 것이라고 말했다. 구글은 첨단 AI를 도입하고 이미지 처리에 심층 신경망을 사용해 CSAM에 우선 순위를 정하고 사람들이 리뷰할 수 있도록 했다.

차드후리는 "과거에는 CSAM의 해시와 일치하는 콘텐츠를 찾는데 전적으로 의존했지만 등급 분류기는 이전에 CSAM으로 확인되지 않은 콘텐츠도 목표물로 삼아 어린이를 범죄자로부터 보호한다. 이미지를 더욱 빠르게 식별하면 인터넷에서 성적 학대를 당하고 있는 사람들이 보호받을 가능성이 높아진다"고 설명했다.

두 사람은 CSAM 문제에 대한 구글의 입장을 밝혔다. "구글은 인터넷으로 어린이를 성적으로 착취하는 콘텐츠를 전파하는 것이 최악의 학대라고 생각한다. 2000년대 초반부터 우리는 기술에 투자해 아동 성적 학대 관련 자료가 온라인에서 확산되지 않도록 노력하고 있다. 또한 최신 기술의 발전에 따라 시민 단체나 NGO, 다른 기술 회사 등 모든 규모의 조직이 이 싸움에 깊이 관여하고 있다"고 전했다.

구글 외에도 대부분의 주요 IT 기술 회사는 AI를 사용해 포르노 또는 사람들에게 불쾌감을 주는 콘텐츠를 감지한다. 이미지 인식 기술이 향상되면 구글은 인터넷 상의 아동 성적 학대에 대항할 수 있다. 이들이 고안한 새로운 기술은 이전 기술이 검토할 수 있었던 이미지보다 같은 기간 동안 700%나 많은 콘텐츠를 검토할 수 있다.

구글은 콘텐츠 안전 API를 업계 관계자에게 무료로 제공하고 있다. 이 툴킷을 도입하면 적은 인원으로도 많은 양의 콘텐츠를 검토할 수 있기 때문에 매우 효율적이다. 인터넷감시재단(Internet Watch Foundation, IWF)의 CEO인 수지 하그리브스는 "특히 우리의 전문 분석가들은 AI 도구가 개발됐다는 소식에 매우 흥분하고 있다. 이 AI 도구를 사용하면 사람 전문가보다 훨씬 대규모의 자료를 검토하고 범죄자를 빨리 검거할 수 있다. 새로운 기술이 공유되면서 이미지 식별이 가속화하고 그 결과 인터넷이 우리 모두에게 더욱 안전한 장소가 될 것이다"라고 말했다.

 

도전은 아직도 진행 중

토도로비치와 차드후리는 "CSAM의 확산을 확인하고 그에 대항해 싸우는 것은 계속적인 도전이며, 정부, 법 집행 기관, NGO 및 산업 모두가 어린이를 끔찍한 범죄로부터 보호하는 데 중요한 역할을 해야 한다"고 말했다.

이를 위해 구글은 지난 수년간 투자를 진행했으며 드디어 CSAM을 효과적으로 탐지하는 기술을 개발했다. 구글은 기술 분야에서 CSAM을 퇴치하기 위해 다른 비즈니스 파트너 및 NGO와 함께 작업을 진행했으며 2006년부터는 위프로텍트 국제연대(WeProtect Global Alliance)와 함께 공동의 노력을 기울였다.

기술 하나만으로는 어린이 성폭력을 근절할 수 없다. 하지만 어린이 성폭력을 막기 위한 AI 기술이 출시됐다는 것은 더 많은 조직이 대규모로 문제를 해결할 수 있기 때문에 큰 진전이라고 볼 수 있다. 구글은 "앞으로도 더 많은 파트너와 함께 업계에서 노력하게 되기를 기대한다"고 전했다.

▲기술 하나만으로 아동 성폭력 문제를 해결할 수는 없지만 AI 기술이 도입된다는 것은 문제 해결을 위한 큰 진전이다(출처=셔터스톡)