'어그로(도발적 내용)' 게시물 차단 가능한 인공지능 시스템

페이스북ㆍ트위터ㆍ레딧 등 소셜미디어 플랫폼이 사이버 여론조작의 장으로 악용되는 것을 방지할 수 있는 인공지능(AI) 기술이 개발됐다.

가디언은 22일(현지시간) 미국 프린스턴 대학 연구팀이 콘텐츠 내용을 추적해 '트롤' 게시물을 찾아주는 머신러닝(ML) 시스템을 개발했다며 이에 적용한 인공지능 알고리즘을 소개했다.

사진=셔터스톡
사진=셔터스톡

트롤 게시물은 고의로 논란이 되는 내용을 담은 콘텐츠다. '어그로'라고 말하기도 한다. '트롤'들은 선동적이거나 공격적인 내용으로 다른 사람에게 불쾌감을 준다. 

연구팀은 "트위터와 레딧에서 미국을 대상으로 중국어ㆍ러시아어ㆍ베네수엘라어로 벌어진 트롤 활동 분석 데이터를 얻었다"며 "샘플이 아닌 데이터를 사용해 콘텐츠 추적 방식 알고리즘 성능 평가가 가능하다"고 전했다. 

테스트 목적은 ▲머신러닝 모델의 트롤 게시물과 일반 게시물 구분 가능 여부 ▲한 달간의 사전 훈련 후 새 트롤 계정 탐색 가능 여부 등이다. 

테스트 결과 대부분의 트롤 게시물 추적에 성공했다. 베네수엘라어 트롤 게시물은 99%, 중국어는 약 90%, 러시아어는 약 85% 정확도를 보였다. 

연구팀은 "추적에 실패한 게시물은 사람이 올린 것으로 추정한다"며 "로봇이 양산한 게시물을 추적하는 것과는 다르다"고 설명했다. 그들은 또 "많은 트롤 게시물이 표준 템플릿과 운영 절차를 따르기 때문에 사람이 작성한 게시물도 구분하게 하는 것이 중요"하다고 전했다.

사진=셔터스톡
사진=셔터스톡

알리자데 박사는 "이 연구는 사람들이 해외 및 국내 소식을 조작 없이 확인할 수 있는 공공 대시보드 개발하기 위해 시작했다"며 "원하지 않는 사용자에게 실시간으로 알려주고, 지역 타깃으로 양산되는 트롤 게시물과 일반 게시물을 분리해 인플루언서가 얼마나 많은 콘텐츠를 공유 및 전파했는지 평가할 수 있게 하는 것이 최종 목표"라고 말했다

카디프 대학 범죄 및 보안 연구소 마틴 이네스 소장은 "아주 흥미로운 연구지만 유사 콘텐츠 식별이 잘 안 된 것이 아쉽다"면서 "연구팀이 언급했듯이 아직 현장에 도입하기엔 개선해야 할 부분이 있는 것 같다”고 평가했다. 

[AI & Tech] 스탠포드 연구팀, 수작업 라벨링 지능화로 1500만 달러 투자유치

[AI & Tech] 아마존 천기누설? 스타일 추천 GAN기반 기술 공개

키워드 관련기사
  • 복잡한 코딩은 가라, 인공지능이 '앱 개발'
  • 시시각각 베팅 대응, 페이스북 포커AI 개발 성공