29일 네이버는 인공지능(AI) 기반 악성댓글 차단 프로그램에 과도한 성적표현을 걸러내는 기능을 추가해 2.5버전으로 업그레이드했다고 밝혔다.
네이버에 따르면 AI 클린봇 2.5는 기존 학습 데이터를 포함해 약 1억6000만건의 데이터를 학습·고도화했다. 이를 통해 2.0버전에 비해 악성댓글 탐지 정확도는 15%가량 향상됐다.
지난해 6월 이뤄진 2.0버전 업그레이드 당시 클린봇은 욕설 사이에 이모티콘이나 오타를 넣은 사례까지 잡아내며 95% 정확도의 악성댓글 차단 능력을 보였다.
특히 이번 업그레이드로 과도한 성적 표현에 대한 추가 학습을 진행해 성적 불쾌감을 일으키는 표현까지 댓글 차단 범위를 넓히게 된다.
이에 욕설뿐 아니라 직·간적접인 성적 행위나 특정 부위 관련 표현도 클린봇이 자동으로 차단한다. 자동 차단 기능은 뉴스 댓글 뿐 아니라 방송톡과 네이버TV에도 적용된다.
뿐만 아니라 네이버는 불법촬영물 유통금지법인 ‘N번방 방지법’에 시행에 따라, 뉴스와 블로그 등 영역에 ‘불법촬영물’ 신고 항목을 신설했다. 불법촬영물 관련 검색 시 신고센터 도움말이 노출되는 기능도 추가했다.
네이버는 “보다 높은 책임의식을 가지고 앞으로도 선언적 의미를 넘어, 실질적으로 악성댓글을 차단하고 불법촬영물 2차 피해 방지에 최선을 다하겠다”라고 밝혔다.
AI타임스 장희수 기자 heehee2157@aitimes.com
관련기사
