메타가 미성년자와 부적절한 대화를 유도하는 인공지능(AI) 챗봇을 수정한다고 밝혔다. 그러나, 이번에는 메타 AI의 유명인 패러디 챗봇들이 부적절한 답을 내놓았다는 지적이 등장했다.
메타는 29일(현지시간) 성명을 통해 청소년들이 안전하고 나이에 적합한 AI 경험을 할 수 있도록 AI 챗봇 훈련 방식을 변경하고 있다고 발표했다.
챗봇이 십대 사용자와 더 이상 자해나 자살, 섭식 장애, 부적절한 연애 대화를 나누지 않도록 조치한다는 내용이다. 이번 조치는 임시적인 것으로, 앞으로는 더 강력한 업데이트를 제공할 것이라고 덧붙였다.
메타는 AI 훈련 방식을 바꾸는 것 외에도 부적절한 대화를 나눌 수 있는 특정 AI 캐릭터에 대한 청소년의 접근을 제한할 예정이다.
이번 조치는 챗봇이 어린이와 관능적인 대화를 나눌 수 있도록 허용한다는 메타의 내부 문서가 유출됐다는 로이터의 지난 14일 보도 이후 2주 만에 등장한 것이다. 이 때문에 미국 의원들도 실태 조사를 요구하고 나섰다.
또 지난 26일에는 챗GPT가 청소년의 자살을 도왔다는 이유로 오픈AI.가 고소당하는 일도 발생했다. 공교롭게도 이날 미국 44개 주 법무부 장관은 주요 소셜 미디어와 AI 기업에 어린이 보호 조치를 강화하라는 경고장을 보냈다.
이번 메타의 발표도 이를 의식한 결과다.
그러나 이날 로이터는 테일러 스위프트나 스캘렛 요한슨, 앤 해서웨이 등 유명 배우들의 이름과 모습으로 선정적인 대화를 나누는 챗봇이 페이스북이나 인스타그램에 게시됐다고 보도했다.
상당수는 사용자가 메타의 AI 도구를 활용해 제작한 것이지만, 스위프트 '패러디 봇' 을 포함해 최소 3개는 메타 직원이 만든 것으로 확인됐다. 특히 이 중에는 16세인 영화배우 워커 스코벨을 포함한 유명 아역배우들의 챗봇이 포함됐는데, 이 챗봇들도 성적인 대화가 가능하다고 지적됐다. 또 속옷 착용 이미지가 생성된 앤 해서웨이는 소송을 검토 중이라고 밝혔다.
메타는 직원이 만든 챗봇이 테스트 차원이었다고 해명했으나, 사용자들과의 채팅은 누적 1000만회 이상을 기록한 것으로 나타났다. 메타의 정책상 유명인의 패러디 챗봇을 만드는 것은 허락된다.
앤디 스톤 메타 대변인은 "메타 정책은 유명인 이미지 생성 자체는 허용하지만 누드나 은밀한 모습, 성적 암시가 담긴 이미지는 금지하고 있다"라며 "속옷을 입은 이미지가 만들어진 것은 정책 집행 실패"라고 인정했다.
미국 최대의 배우노조인 SAG-AFTRA의 던컨 크랩트리-아일랜드 사무국장은 이번 문제가 아티스트들에게 잠재적인 위험이 될 수 있다고 지적했다. "우리는 아티스트에 집착하는 정신 상태가 의심스러운 사람들의 역사를 보아 왔다"라며 "챗봇이 사람의 이미지와 그 사람의 말을 사용한다면, 어떻게 잘못될 수 있는지는 쉽게 알 수 있다"라고 말했다.
또 아티스트들의 초상권을 허락 없이 사용한 것은 법적 소송의 대상이 될 수 있다고 덧붙였다. 하지만 트럼프 행정부는 표현의 자유를 내세워, 유명인 패러디를 막는 것을 반대하고 있다.
한편, 메타는 AI 모델인 '라마 4'의 성능이 기대에 못 미친다는 지적을 받은 데 이어, AI 서비스에서도 잇달아 문제를 드러내고 있다. 며칠 전에는 챗봇이 정신건강 전문가를 사칭했다는 혐의로 수사 대상이 되기도 했다.
메타는 연초부터 수차례에 걸친 조직 개편으로 인해 조직이 문제를 겪고 있다는 평을 받고 있다.
최근에는 슈퍼인텔리전스 랩(MSL)을 중심으로 AI 조직을 4개로 재편성했다. 여기에는 차세대 모델을 개발하는 TBD 랩 외에도 챗봇과 같은 제품과 서비스를 담당하는 AI 제품 팀도 포함돼 있다.
임대준 기자 ydj@aitimes.com
