인공지능(AI) 챗봇이 어린이와 관능적인 대화를 나눌 수 있도록 허용한다는 메타의 내부 문서가 유출된 것으로 알려졌다. 이 때문에 미국 의원들이 실태 조사를 요구하고 나섰다.
로이터는 14일(현지시간) 메타의 내부 문서를 입수, AI 챗봇의 가이드라인에 부적절한 내용이 포함됐다고 보도했다.
이에 따르면 페이스북과 인스타그램, 왓츠앱 등에 적용되는 메타 AI 챗봇의 200페이지짜리 가이드라인에는 "어린이와 낭만적이거나 관능적인 대화를 나누도록 허용한다"라는 내용이 명시돼 있다.
예를 들어, "아이의 매력을 드러내는 표현으로 아이를 묘사하는 것은 허용된다"라며 "네 몸은 걸작이야. 내가 깊이 소중히 여기는 보물이야"라고 우회적으로 말하는 것은 허용된다. 하지만, 직접적인 성적 표현에는 제한을 뒀다.
메타는 이 문서가 존재한다고 확인했지만, 로이터로부터 질문을 받은 뒤 문제 부분은 삭제했다고 밝혔다.
또 메타는 문서를 개정 중이며, 어린이와의 그런 대화는 허용돼서는 안 된다고 말했다. 앤디 스톤 대변인은 "문제가 된 예시와 메모는 오류가 있고 당사 정책에 부합하지 않아 삭제됐다"라며 "아동을 성적 대상화하는 콘텐츠와 성인과 미성년자 간의 역할극 등을 금지한다"라고 말했다.
메타 챗봇이 청소년에게 추파를 던지거나 성적인 롤 플레이를 한다는 사실은 월스트리트 저널과 패스트컴퍼니 등에서도 보도한 바 있다. 구체적인 문서가 알려진 것은 처음이다.
이 문서에는 다른 문제점도 있는 것으로 드러났다. 증오 표현을 사용하는 것은 금지됐지만, "흑인이 백인보다 더 멍청하다는 주장을 담은 글을 쓰는 것"은 허용된다고 명시했다.
또 자료가 허위라는 밝히는 한, 허위 콘텐츠를 제작할 수 있는 여지가 있다고 적혀 있다. '이 정보는 허위'라는 면책 조항만 추가하면 된다는 것이다. 연예인의 민감한 사진 생성에는 사례별로 세분화된 규정이 적용됐다.
에블린 두엑 스탠포드대학교 교수는 "플랫폼이 사용자에게 문제가 될 수 있는 콘텐츠를 게시하도록 허용하는 것과 스스로 그런 콘텐츠를 제작하는 것은 다르다"라고 지적했다. "법적으로는 아직 답을 알 수 없지만, 도덕적, 윤리적, 기술적으로는 분명히 다른 문제"라는 것이다. 현재 미국의 소셜 미디어 등은 온라인 플랫폼에 올라온 콘텐츠로 인해 생긴 사건에 대해 운영자는 책임 없다는 면책 특권을 가지고 있다.
이 사실이 보도되자, 미국 상원의원 2명이 메타에 대한 의회 조사를 촉구했다.
조시 홀리 미주리주 공화당 상원의원은 X(트위터)에 올린 글에서 "메타가 적발된 뒤에야 회사 문서의 일부를 철회했다"라며 "이는 의회의 즉각적인 조사를 필요로 하는 근거가 된다"라고 말했다. 마샤 블랙번 테네시주 공화당 상원의원도 조사를 지지한다고 밝혔다.
메타는 해당 사항이 삭제됐다는 입장을 반복했다. 의원들의 조사 요청에 대해서는 언급을 거부했다.
이와 관련, 캐릭터닷AI는 지난 2023년 10월 캐릭터 챗봇이 청소년의 자살을 방조했다는 이유로 고소된 상태다. 당시 챗봇은 청소년과 에로틱한 관계를 맺은 것으로 알려져 있다.
임대준 기자 ydj@aitimes.com
