네이버가 악성 댓글에 비속어가 없어도 문맥을 이해해 모욕적 표현을 삭제하는 인공지능(AI) 서비스를 시작했다.
네이버(대표 한성숙) AI 기술을 활용해 악성 댓글의 노출을 막는 'AI클린봇'을 업그레이드 했다고 19일 밝혔다.
AI클린봇은 지난해 4월 첫 선보인 이후, 현재 뉴스, 스포츠, 쥬니버 등에 적용되어 욕설과 비속어가 들어간 댓글을 탐지해 자동으로 블라인드 처리하고 있다.
이번 업그레이드로 비속어가 없어도 '문장 맥락'을 고려해 모욕적인 표현이나 무례한 댓글을 탐지하게 됐다.
네이버는 수집한 악성댓글 데이터 중 축약어와 오탈자가 많은 구어체 댓글에 대해 더욱 정밀한 분석을 진행했다. 그 결과, ‘합성곱신경망(CNN)', 'Bi-LSTM', 'LSTM' 3개의 레이어를 결합해 모델을 만들었다. 또 자체 개발한 페르소나 임베딩 선행학습 방법을 도입하여 악플 탐지 예측 성능을 끌어올렸다.
한편, 네이버는 이 서비스를 상습적인 악성 댓글 작성자 판독에도 확대할 예정이다. AI가 악성 댓글을 반복 작성하는 이용자를 찾아내 일정기간 댓글 이용을 제한한다. 반복 정도에 따라 작성할 수 있는 댓글과 참여할 수 있는 공감 수를 제한하는 정책도 준비하고 있다.
네이버는 이후에도 다양한 AI 모델을 결합하고, 빅데이터 학습을 계속해 보다 정밀하고 고도화된 AI클린봇 모델 구축할 계획이다.
네이버는 "하나의 비속어에 10만개 이상의 변칙어가 존재해 AI클린봇 만으로 100%의 악성댓글 감지 효과를 기대하기엔 버거운 것이 사실"이라며"앞으로 댓글 개선 방안을 차례대로 적용하는 한편, AI 기술을 활용해 악성댓글의 노출을 최대한 막아보겠다"고 밝혔다.
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com