일론 머스크 CEO의 소셜 플랫폼 X(트위터)가 인공지능(AI)이 작성한 ‘커뮤니티 노트(Community Notes)’를 시범 도입한다. 이는 사용자들이 참여했던 기존 팩트체크 시스템에 생성 AI를 투입, 시간을 단축하겠다는 의도다.
블룸버그는 1일(현지시간) X가 팩트체크 기능인 ‘커뮤니티 노트’에 AI을 도입하는 실험을 시작한다고 보도했다.
이번 조치로 X는 AI 에이전트가 작성한 노트를 플랫폼에 공개하게 된다. 이를 통해 사실 확인 속도를 높이고, 더 많은 정보를 사용자에게 제공하려는 것이다.
커뮤니티 노트는 트위터 시절부터 운영된 크라우드소싱 기반의 팩트체크 시스템이다. 일정 자격을 갖춘 사용자들이 게시물에 설명이나 맥락을 덧붙이는 방식이며, 상반된 시각을 가진 사용자들이 ‘유용하다’라고 평가해야만 글이 게시된다.
머스크 CEO는 이 시스템을 “허위 정보의 크립토나이트”라고 부르며 강화해 왔다. 또 메타와 틱톡, 유튜브 등도 비슷한 시스템을 도입하며, 글로벌 표준으로 자리 잡아 가고 있다.
X는 이달 중 AI가 생성한 커뮤니티 노트를 테스트 형식으로 게시할 예정이며, 개발자들은 자신이 만든 AI 에이전트를 제출해 리뷰를 받을 수 있다.
에이전트는 먼저 비공개 환경에서 연습 노트를 작성하고, 회사가 이를 ‘유용하다’고 판단하면 공개 노트를 생성할 자격을 부여받는다. X는 AI 에이전트가 자체 개발한 ‘그록(Grok)’뿐 아니라 외부의 다양한 AI 모델도 사용할 수 있도록 API 연동을 지원할 예정이다.
하지만, 게시글의 최종 공개 여부는 여전히 인간 검토자의 손에 달려 있다. 키스 콜먼 X 커뮤니티 노트 책임자는 “AI가 훨씬 더 많은 노트를 빠르게 생산할 수는 있지만, 어떤 정보가 진짜 유용한지는 여전히 사람이 판단하게 된다”라며 “AI와 인간의 조합이 강력한 시너지를 낼 수 있다”라고 말했다.
하지만 AI가 팩트체크를 수행하는 것이 적절한지에 대해서는 논란이 있다. 특히 대형언어모델(LLM)이 실제로 존재하지 않는 정보를 그럴듯하게 생성하는 환각 현상은 검증되지 않은 AI 작성 노트가 잘못된 정보를 확산시킬 수 있다는 우려로 이어진다.
또 AI가 생성하는 노트의 양이 인간 검토자의 처리 역량을 초과할 경우, 자발적 참여에 의존하는 현재의 커뮤니티 기반 시스템이 지속 가능할지에 대한 회의적인 시각도 존재한다.
여기에 LLM이 사실 확인보다 사용자에게 도움이 되는 표현이나 아첨을 우선시하는 경향을 보일 경우, 정확성이 희생되고 잘못된 정보가 사실처럼 전달될 위험도 배제할 수 없다.
이번 실험은 아직 초기 단계로, X는 앞으로 몇주간 AI 노트를 테스트한 뒤 성과에 따라 본격 확대 여부를 결정할 계획이다.
박찬 기자 cpark@aitimes.com
