AI로 '트롤 게시물' 추적한다...美프린스턴대, ML 시스템 개발
상태바
AI로 '트롤 게시물' 추적한다...美프린스턴대, ML 시스템 개발
  • 입력 2020-07-23 14:40
  • 댓글 0
이 기사를 공유합니다

'어그로(도발적 내용)' 게시물 차단 가능한 인공지능 시스템

페이스북ㆍ트위터ㆍ레딧 등 소셜미디어 플랫폼이 사이버 여론조작의 장으로 악용되는 것을 방지할 수 있는 인공지능(AI) 기술이 개발됐다.

가디언은 22일(현지시간) 미국 프린스턴 대학 연구팀이 콘텐츠 내용을 추적해 '트롤' 게시물을 찾아주는 머신러닝(ML) 시스템을 개발했다며 이에 적용한 인공지능 알고리즘을 소개했다.

사진=셔터스톡
사진=셔터스톡

트롤 게시물은 고의로 논란이 되는 내용을 담은 콘텐츠다. '어그로'라고 말하기도 한다. '트롤'들은 선동적이거나 공격적인 내용으로 다른 사람에게 불쾌감을 준다. 

연구팀은 "트위터와 레딧에서 미국을 대상으로 중국어ㆍ러시아어ㆍ베네수엘라어로 벌어진 트롤 활동 분석 데이터를 얻었다"며 "샘플이 아닌 데이터를 사용해 콘텐츠 추적 방식 알고리즘 성능 평가가 가능하다"고 전했다. 

테스트 목적은 ▲머신러닝 모델의 트롤 게시물과 일반 게시물 구분 가능 여부 ▲한 달간의 사전 훈련 후 새 트롤 계정 탐색 가능 여부 등이다. 

테스트 결과 대부분의 트롤 게시물 추적에 성공했다. 베네수엘라어 트롤 게시물은 99%, 중국어는 약 90%, 러시아어는 약 85% 정확도를 보였다. 

연구팀은 "추적에 실패한 게시물은 사람이 올린 것으로 추정한다"며 "로봇이 양산한 게시물을 추적하는 것과는 다르다"고 설명했다. 그들은 또 "많은 트롤 게시물이 표준 템플릿과 운영 절차를 따르기 때문에 사람이 작성한 게시물도 구분하게 하는 것이 중요"하다고 전했다.

사진=셔터스톡
사진=셔터스톡

알리자데 박사는 "이 연구는 사람들이 해외 및 국내 소식을 조작 없이 확인할 수 있는 공공 대시보드 개발하기 위해 시작했다"며 "원하지 않는 사용자에게 실시간으로 알려주고, 지역 타깃으로 양산되는 트롤 게시물과 일반 게시물을 분리해 인플루언서가 얼마나 많은 콘텐츠를 공유 및 전파했는지 평가할 수 있게 하는 것이 최종 목표"라고 말했다

카디프 대학 범죄 및 보안 연구소 마틴 이네스 소장은 "아주 흥미로운 연구지만 유사 콘텐츠 식별이 잘 안 된 것이 아쉽다"면서 "연구팀이 언급했듯이 아직 현장에 도입하기엔 개선해야 할 부분이 있는 것 같다”고 평가했다. 

[AI & Tech] 스탠포드 연구팀, 수작업 라벨링 지능화로 1500만 달러 투자유치

[AI & Tech] 아마존 천기누설? 스타일 추천 GAN기반 기술 공개

기자 프로필


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사
유용한 리스티클
  • 지금 사면 좋은 AI 주식 3가지
  • 영국의 5대 AI 기업
  • 개발자가 가장 많이 사용하는 오픈소스는 '제이쿼리'
  • 네이버는 줄이고, 카카오는 늘리고...양사 계열사 현황
  • AI 접목 패션업계, 사용자 수 증가 효과
  • 신제품 개발을 개선하는 10가지 방법