◆ 인공지능을 유해사이트 검색 시스템에 시험 적용한 계기는
AI 기술 발전과 더불어 미디어 지능화 기술 분야가 새로 생겼다. 특히 영상 분석 기술이 핵심이다. 이 영상 분석 기술이 지능화되며 보다 정교한 판단이 가능하다. 현재 디지털 성범죄가 지속적으로 발생함에 따라 대응책으로 사용하면 어떨지 연구했다. 고심 끝에 AI와 미디어 지능화 기술 분야를 합쳐 적용했다.
◆ 개발과정에 힘든 점은
무엇보다 시간이 많이 소요됐다. 누구나 쉽게 접근할 수 있는 사안이 아니기 때문이다. 많은 인력을 동원해 오랜 시간동안 기술 테스트에 힘썼다. 일반적인 기술 개발보다 오래 걸렸다.
◆ 이번 기술로 연구진들이 기대하는 바 또는 향후 전망은
AI 기술을 활용해 사회문제 해결에 기여할 수 있는 점이 고무적이다. 현재는 유해성(음란물) 판단에 집중돼 있지만, 향후 온라인 대응 범위를 다양한 분야에 확대해 여러 탐지 효율 개선에 힘쓸 예정이다.
한국전자통신연구원(ETRI)는 AI가 웹페이지 음란성 여부를 판단하는 검색 시스템을 이번 달 시험 적용한다. 영상물의 유해성을 분석, 검출하는 AI기술이다. 연구진은 AI가 인터넷 사이트를 자동으로 검색하여 웹페이지 음란성 여부를 판단할 수 있다고 밝혔다. 과학기술정보통신부 '인공지능 기반 유해미디어(음란성) 분석·검출 시스템 개발' 로서, SK텔레콤, 광운대 등 다양한 기관이 협업했다.
ETRI가 개발한 기술에는 ▲자동으로 유해 이미지 특성을 분석해 유해 사이트 주소를 수집 ▲ 유해 이미지를 AI가 자동 판단해 필터링 ▲사람이 입력한 키워드, 이미지 기반으로 자동 웹 컨텐츠 검색 수집이다.
특히 웹사이트 목록 수집 시스템은 ▲ 유해 웹사이트 목록 업데이트를 위한 시스템 구조 및 연동 설계 ▲ 이미지 추출 및 AI기반 유해 이미지 필터링 연동 서버 개발 ▲ 유해 컨텐츠 자동 검색 수집 모듈 및 스케쥴러 개발을 통해 만들어졌다.
ETRI 연구진의 AI 엔진은 프레임당 약 100만 회에 이르는 세부판단을 근거로 영상 간 유사도 비교를 수행한다. 콘텐츠 유해성 판단 정확도가 99.4%이상, 검출속도는 0.01초 이하다.
연구진은 지난 6월부터 두 달간 효율성 시험을 했다. 피해영상물의 검색 키워드, 썸네일 이미지, 주소(URL) 등을 활용해 총 18,945건의 웹사이트를 자동 수집했다. 이 중 유해 사이트로 판별된 2631개 웹사이트를 걸러내는 데 성공했다.
ETRI 이남경 미디어지능화연구실장은 “이번 인공지능 기술은 디지털 성범죄 피해자 지원업무에 유용하게 활용될 것으로 보인다”고 말했다.
본 기술은 과학기술정보통신부 '인공지능 기반 유해미디어(음란성) 분석·검출 시스템 개발' 과제로 개발됐다. 판도라티비, 엘컴텍, SK텔레콤, 광운대가 공동연구기관으로 참여했다.
AI타임스 김미정 기자 kimj7521@aitimes.com
[관련기사] ETRI, 사람처럼 문서 찾는 AI 검색 기술 개발
