미국의 인기 뉴스 앱 뉴스브레이크가 인공지능(AI)을 이용한 가짜 뉴스를 생성해 논란이 되고 있다. 뉴스브레이크가 중국에 근거지를 두고 있다는 점에서 미국 의회가 추가 조사를 촉구하고 나섰다.
로이터는 5일(현지시간) 미국에서 가장 많이 다운로드되는 뉴스 앱인 뉴스브레이크가 AI를 통해 허위 사실을 작성해 유포하고 있다고 보도했다.
뉴스브레이크는 월간 사용자가 5000만명이 넘는 인기 앱으로, 로이터, 폭스, AP, CNN 등 주요 언론사의 라이선스 콘텐츠를 게시하는 것으로 알려졌다. 이는 인터넷에서 지역 뉴스나 보도자료를 스크랩해 AI로 재작성하는 방식을 사용한다.
문제는 최근 AI가 허위 사실을 실제 발생한 사건처럼 작성하는 사례가 늘고 있다는 것이다. 진짜 뉴스 속에 교묘하게 가짜 뉴스를 섞는 식이다.
보도에 따르면 뉴스브레이크가 허위 사실을 기사 형태로 작성해 유포한 사례는 지난 2021년 이후 최소 40번에 달하는 것으로 나타났다. 허위 바이라인을 이용해 기사를 내보내는 사례도 있었다.
특히 지난해 크리스마스에 뉴저지주 브리지튼에서 총격 사건이 발생했다는 뉴스를 게재해 논란이 됐다. 당시 뉴저지주 경찰 당국은 "해당 지역에선 이와 관련한 사건이 발생하지 않았다"며 “완전히 거짓이며 AI가 쓴 소설”이라고 반박했다.
뉴스브레이크는 게재 후 4일 만에 해당 기사를 삭제했다. "부정확한 정보는 콘텐츠 출처에서 비롯된 것"이라며 웹사이트 링크를 제공했고, "뉴스브레이크가 부정확한 콘텐츠나 커뮤니티 기준 위반을 확인할 경우, 해당 콘텐츠를 신속히 제거하기 위한 조치를 취한다"라고 해명했다.
이 매체는 특히 지역 뉴스에 특화돼 있다. 최근 몇 년간 미국 전역의 지역 뉴스 매체가 영업을 중단함에 따라 뉴스브레이크가 그 공백을 메우고 있다. 뉴스브레이크는 지역 관련 모든 것을 제공하는 뉴스앱을 표방하고 있다.
다만 부정확한 정보를 제공하는 사례가 잦아 이용자들이 피해를 입은 경우도 많아지고 있다. 로이터는 “콜로라도에 본사를 둔 식품 자선단체 ‘푸드 투 파워’는 뉴스브레이크에서 잘못된 식품 배급시간을 확인해 업무에 차질이 생긴 적이 있다”며 “이같은 문제는 1~3월까지 세 차례나 발생했다”고 전했다.
이에 대해서도 해당 자선 단체들에 관한 기사 5개에 오류가 있는 것으로 판명된 후 모두 삭제했으며, 해당 기사들이 일부 자선 단체 웹페이지에 있는 부정확한 정보를 바탕으로 작성돼싿고 밝혔다.
특히 이 회사는 사실상 중국에 근거지를 두고 있다는 점이 논란이다. 캘리포니아주 마운틴뷰에 본사를 두고 있지만, 베이징과 상하이에 지사를 두고 있다. 대부분의 직원들은 중국에서 생활하고 있다.
익명의 뉴스브레이크 전 직원들에 따르면, 앱 알고리즘에 대한 대부분의 엔지니어링 작업이 중국에 있는 사무실에서 이루어지는 것으로 알려졌다.
또 주요 투자자는 베이징에 본사를 둔 IDG 캐피탈로 알려졌다. 이 회사는 미국 국방부가 지난 2월 중국군과 협력하고 있다고 밝힌 수십개의 중국 기업들 중 하나다.
한편 이 소식이 알려지자 미국 의원 3명이 추가 조사를 촉구하고 나섰다.
정보위원회 의장인 민주당의 마크 워너 상원 의원은 “검증되지 않은 인공지능 생성 뉴스를 다루는 회사보다 더 무서운 것은, 적대적인 외국 정부와 깊은 연관이 있는 회사다”라며 “이는 우려되는 국가의 기술이 제기하는 심각한 위협의 또 다른 예로, 이 위협에 대처하기 위해 전체적인 접근이 필요하다는 점을 상기시켜 준다. 개별 회사들과의 '두더지 잡기' 게임으로는 이길 수 없라고 말했다.
박찬 기자 cpark@aitimes.com
