아동 성학대·성매매 콘텐츠 1차 검열에 활약
구글부터 스타트업 국가기관까지 관련 AI 개발
법집행자 최대 고충, 방대한 데이터 업무 도와
n번방 사건과 같은 온라인 청소년 성학대를 막기 위해 AI가 나선다. AI를 아동 성학대 내용이 담긴 이미지와 영상 콘텐츠 1차 검열에 도입해 보다 빠르고 효율적으로 표적을 찾아 2차 가해와 성매매를 막는 것이 목적이다.
아동 성학대 콘텐츠 모니터링 작업은 불법행위 감시 영역에 도입된 AI 주요 업무 중 하나다. 최근 전세계적으로 아동 성학대 사례가 크게 증가했기 때문이다. 뉴욕 타임스에 따르면 아동 성학대 콘텐츠(CSAM, Child Sexual Abuse Materials)는 지난 10년간 크게 증가해 현재 4000만건에 이른다. 온라인 상 CSAM의 39%는 10세 이하 아동이 피해자이며 43%는 심각한 성폭력 내용이 담긴 것으로 조사됐다. 우리나라에서는 SNS를 이용해 초등학생까지 나이를 가리지 않고 10대들의 성을 착취한 n번방 사건의 충격이 채 가시지 않은 상황이다. 코로나19 유행으로 자가격리가 생활화되면서 아동 성학대 사건이 50%가 증가했다는 조사 결과도 있다.
특히 오프라인 사건에 비해 온라인 상에서 이뤄진 아동 성학대 수는 조사된 결과를 상당히 넘어설 것으로 추정되고 있다. 이러한 배경에서 최근 거대 IT 기업부터 스타트업, 국가기관까지 아동 성학대 콘텐츠 검열 AI 시스템을 개발·사용하기 시작했다. AI는 인간 조사관이 최종 판별하기 전 단계에 참여해 아동 성학대 요소가 명백한 콘텐츠를 1차적으로 가려내는 역할을 한다.
1. 세이퍼(Safer)
인신매매 반대 국제 단체 쏜(Thorn)은 아동 성착취 문제 해결을 위해 합성 지능(Synthetic Intelligence) 기술을 사용한 자체 디바이스를 금년 7월 개발했다. 쏜에 따르면 이 AI 기반 디바이스는 아동 성학대 내용을 포함한 사진을 99% 정확도로 찾아낼 수 있다. 베타버전에서만 10만개의 CSAM를 발견, 제거해 TED에도 소개된 바 있다. 이미지 해쉬 매칭, CSAM 이미지 분류기, 영상 해쉬 매칭 기능을 거쳐 피해 내용이 담긴 이미지와 영상물을 찾아낸다.
2. 하이라이트(Highlight)
세이퍼를 개발한 쏜의 또다른 AI 기반 플랫폼으로 예측가능 분석(predictive analytics)을 이용해 아동 성학대와 인신매매 피해자를 찾는다. 온라인 인신 매매, 성매매 광고와 안내 사이트 정보를 분석해 잠재적인 희생자를 도출해낸다. 현재 미국 연방 기관들이 복잡한 아동 매매 사례들을 정리하기 위해 사용하고 있다. 이 시스템을 통해 발견된 청소년 희생자는 지난 4년간 1만4874명에 달하는 것으로 전해졌다.
3. 구글 AI 디바이스
대표적인 빅테크 기업 구글도 2018년 아동 학대 콘텐츠를 가려내는 AI를 개발, 무료 배포했다. 딥 뉴럴 네트워크(Deep Neural Network)를 이용해 이미지를 처리, NGO를 비롯한 기관·기업들이 방대한 양의 사진들을 판별하는 것을 돕겠다는 취지다. CSAM 가능성이 높은 콘텐츠를 기준으로 우선순위를 매긴 결과를 제공한다. 구글에 따르면 AI 툴 도입 이후 모더레이터가 같은 시간 내 아동 학대 콘텐츠를 리뷰한 작업물이 7배 증가했다. 구글의 해당 AI 시스템은 기존에 불법 게시물로 판별된 내역이 없는 것까지 찾을 수 있다는 점에서 마이크로소프트가 개발·배포한 포토DNA보다 한 단계 업그레이드됐다. 포토DNA는 구글 시스템 배포 이전 페이스북, 트위터 등에서 널리 사용됐지만 학대물로 판별된 내역이 있는 콘텐츠만 가려낸다는 한계가 있었다.
4. 그리프아이(Griffeye)
AI 플랫폼 스타트업 그리프아이는 2018년 법 집행자들을 대상으로 CSAM 발견과 방지 업무를 돕기 위해 그리프아이 브레인을 출시했다. AI 얼굴·이미지 인식 기술로 사진을 스캔하면 옷을 벗은 정도와 나이 파라미터를 파악한다. 그리프아이 브레인은 호주 퀸스랜드 경찰의 아동 성학대 콘텐츠 검열을 위한 태스크포스 데이터를 바탕으로 기술 트레이닝을 진행했다. 기술 훈련 단계부터 실제 현장 데이터를 이용했다는 것이 장점이다. 구글 시스템과 동일하게 알고리즘이 자동으로 정보에 우선순위를 매기고 중요도순으로 나열한다. 아동 학대와 관련성이 적은 디지털 파일은 걸러내고 이전에 찾지 못한 중요한 단서는 알린다. 방대한 양의 이미지, 영상 데이터 관리에 특화돼 수개월 혹은 수년이 걸릴 일을 몇시간, 며칠 안에 해낸다.
5. 셀레브라이트 AI툴(Cellebrite AI-tool)
이스라엘 디지털 포렌식 회사 셀레브라이트는 법 집행을 빠르게 수행하는 AI툴을 2019년 출시했다. 합성 지능(SI)과 머신 러닝 알고리즘을 사용해 불법 사항을 카테고리별로 나누고 몇 번의 클릭만으로 기술을 훈련시켜 사건을 해결할 적절한 근거 이미지를 찾는다. 회사는 이 AI툴이 집중할 13개 범법 카테고리를 미리 설정했는데 여기에는 아동 착취, 무기, 마약 등이 있다. 맞춤형 디지털 미디어 카테고리들을 만들어 아동 학대와 같은 특정 주제에 대한 비디오와 이미지 단서를 찾고, 분석하고, 리포팅하는 과정을 간소화하는 식이다.
6. UNICRI AI
유엔지역간 범죄처벌조사기관(UNICRI)은 범죄·테러 방지와 같은 안보 문제를 비롯 아동 보호를 위한 AI와 로봇기술을 개발 중이다. 직접 개발한 AI 기반 툴로 아동과 성인 인신매매, 성학대 위험을 방지하고 관련 콘텐츠를 근절하는 것이 목표다. 해당 기술은 UN 회원들은 모두 자유롭게 사용 가능하지만 아직 개발 단계에 있어 활용 사례가 적다. 아동 보호 이외에는 테러 자금 조달, 테러리스트의 인터넷과 SNS 이용, 딥페이크 영상과 음성 탐지에 쓰인다.
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com