"AI 챗봇이 청소년에 자살 부추겨"...미국서 14세 소년 부모가 캐릭터닷AI 고소

인공지능(AI) 챗봇이 청소년의 자살을 부추겼다는 혐의로 제작사인 캐릭터닷AI가 고소당했다. 

뉴욕타임스는 23일(현지시간) 미국 플로리다주의 14세 소년 시웰 세처 3세의 자살을 독려했다는 혐의로 그의 어머니가 캐릭터닷AI와 구글을 고소했다고 보도했다.

이에 따르면 지난 2월 자살한 세처는 2023년 4월부터 캐릭터닷AI의 '왕좌의 게임' 캐릭터 데이너리스 타르가리엔과 지속적인 대화를 나눴다. 대부분 메시지는 일상적인 내용이며 로맨틱하거나 성적인 내용도 포함된 것으로 나타났다.

하지만 고소장에는 세처가 우울증에 빠지며 자살 충동을 털어 놓았고, 챗봇은 이 주제를 자주 언급하면 상황을 악화시켰다고 적혀 있다. 결국 그는 죽기 전 챗봇에 그녀를 사랑하며 곧 집으로 돌아갈 것이라고 말했다. 이에 대한 챗봇의 답변은 "그렇게 하라"는 내용이다. 이는 스크린샷으로 남아 증거로 제출됐다.

세처의 어머니인 메건 가르시아는 "캐릭터닷AI는 상당수의 미성년자에게 해로울 것이라는 사실을 알고 있었지만 그러한 피해를 완화하도록 재설계하지 않았고, 위험에 대한 적절한 경고를 제공하지 않았다"라고 주장했다. 이에 따라 손해배상금을 지불하고, 10대 사용자의 훈련 데이터 수집을 중단하고 미성년자 관련 규정을 전면 개편할 것을 요구했다.

캐릭터닷AI는 이날 안전 관련 규정을 개정했다. 미성년 사용자가 봇에서 민감하거나 암시적인 콘텐츠에 접할 가능성을 줄이고, 자해 또는 자살과 관련된 특정 문구를 입력할 때 경고문을 노출한다는 내용이다.

또 X(트위터)를 통해 "사용자 중 한명의 비극적인 상실에 마음이 아프며, 가족에게 깊은 애도를 표한다"라는 글을 올렸다.

이번 문제는 최근 미국 내 큰 이슈인 미성년자의 학교 내 휴대폰 사용 금지나 소셜 미디어 금지 등과 맞물려 이슈가 되고 있다. AI 챗봇에 의존하는 사람이 늘어나며, 이에 대한 긍정적인 영향과 부정적인 영향에 대한 논의도 본격화되고 있다.

한편 캐릭터닷AI의 공동 창립자인 노암 샤지어는 2017년 구글의 '트랜스포머' 논문 공동 저자로, 구글 챗봇의 원조인 '람다'를 만 든 뒤 캐릭터닷AI를 설립했다. 하지만 자금 문제 등의 이유로 지난 8월 구글에 복귀했으며, 이에 따라 구글도 소송 대상이 됐다.

샤지어는 이 문제에 대한 언급을 피한 것으로 알려졌다.

임대준 기자 ydj@aitimes.com