인공지능(AI) 챗봇이 불과 10분 남짓의 대화만으로도 사람들의 정치적 의견을 바꿀 수 있다는 연구 결과가 나왔다.
14일(현지시간) 파이낸셜 타임스에 따르면, 영국 AI보안연구소(AISI)가 옥스퍼드대학교·MIT 등은 범용 AI 모델들이 강력한 설득 도구(persuasion machines)로 활용될 수 있다는 연구 결과를 발표했다.
이번 연구에는 오픈AI의 'GPT-4' 'GPT-4.5' 'GPT-4o'와 메타의 '라마 3', xAI의 ‘그록 3’, 알리바바의 '큐원' 등이 활용됐다.
GPT-4o와 GPT-4.5 등은 평균 9분간의 정치 대화에서 사람들에게 단순 메시지를 보여주는 것보다 각각 41%, 52% 더 높은 설득 효과를 보였다고 전했다. 한 달이 지나도 참가자의 36~42%는 바뀐 의견을 유지했을 정도다.
특히 사용자의 연령과 성별, 정치 성향 등에 맞춰 맞춤형 메시지를 제시했을 때 설득력은 5% 더 높아졌다.
데이비드 랜드 코넬대 교수는 “AI의 설득력이 뛰어난 이유는 방대한 근거를 신속히 제시하고, 이를 이해하기 쉽게 전달할 수 있기 때문”이라며 “이는 많은 정치인이나 기업인들이 부러워할 능력”이라고 평했다.
연구진은 이런 특성이 급진적인 정치나 종교 이념을 퍼뜨리고 경쟁국의 정치적 혼란을 조장하려는 불순한 세력에게 악용될 수 있다고 경고했다.
또 대형언어모델(LLM)의 설득력이 인간보다 뛰어난 것뿐만 아니라, 잘못된 답변을 설득하고 오도하는 능력도 인간보다 우수했다고 밝혔다.
반면, 이런 능력을 긍정적으로 활용할 수 있다는 기대도 있다. AI의 설득력으로 음모론을 믿는 사람들의 생각을 바꾸거나, 마케팅이나 판매 등에 활용한다는 것이다.
실제로 지난해 MIT와 코넬대학교 연구에서는 GPT-4가 음모론자의 믿음을 20%가량 줄이고, 그 효과가 두달간 유지된다는 결과가 나오기도 했다. 또 기후변화 회의론이나 백신 불신을 줄이는 데에도 효과적이었다.
하지만 전문가들은 “AI가 더 강력해질수록 설득 능력도 커지며, 오용과 남용 방지가 점점 중요해진다”라고 입을 모은다.
구글 딥마인드와 오픈AI 등은 이미 조작적 언어 탐지와 정치적 선동 차단을 위한 정책을 강화하고 있다.
박찬 기자 cpark@aitimes.com
