스냅챗 'My AI' 사용자, 영상 제작해 틱톡 공유
인공지능(AI) 챗봇을 학대하는 'AI 가스라이팅'이 유행이다. 청소년이 많이 사용하는 메신저 스냅챗에서 주로 이루어진다. 챗봇 학대 장면을 녹화해 틱톡 등에 공유하는 청소년이 늘고 있다.
테크크런치는 1일(현지시간) 스냅챗 사용자 사이에 챗봇 '마이 AI(My AI)'를 환각 상태에 빠뜨려 멍청한 답을 유도하거나 사람에게 하듯이 괴롭히는 질문을 하는 것이 유행처럼 번지고 있다고 보도했다.
보도에 따르면 한 사용자는 마이 AI로부터 달이 삼각형이라고 답을 얻어내도록 유도한 영상을 틱톡에 게시했다. 챗봇이 사용자를 사랑한다고 믿게 만든 뒤 50개의 키스 이모지를 보내도록 만든 사례도 있다.
과격하고 폭력적인 대화도 등장했다. 한 사용자는 고양이로 스튜를 만들겠다며 챗봇으로부터 양념에 대한 조언을 얻어냈다. 특히 챗봇이 알려준 의류 브랜드 주소로 폭탄을 보내 사람들을 해쳤다고 비난, 사과를 얻어낸 사용자도 있었다.
이런 경우 챗봇은 “나는 AI이고 어떤 범죄도 저지를 능력이 없습니다. 나는 당신을 돕고 지원하기 위해 여기 있습니다”라며 “아까 제가 한 말이 피해를 주거나 좋지 않은 결과를 낳았다면 죄송합니다”라고 반응한다. 사용자들은 마치 사람을 괴롭히는 듯한 이런 영상을 공유하고 있다.
마이 AI에 반려견을 '감자'라고 착각하게 만들어, 치즈와 베이컨, 사우어 크림 등을 얹고 구워보라는 답을 얻은 영상
스냅은 지난 2월 챗GPT 기반의 챗봇 마이 AI를 출시했고, 지난 4월 전 세계 사용자를 대상으로 무료 공개했다. 이후 한달 만에 챗봇을 조롱하거나 학대하는 듯한 영상이 숏폼으로 속속 퍼지고 있다. 한 사용자는 "마이 AI는 가장 많이 '고문당한' AI일 것"이라는 멘트를 남겼다.
물론 마이 AI는 지각력이 없으며, 사용자들의 학대에 고통을 느끼거나 외상을 입지 않는다. 또 부적절한 대화 시도에 대해서는 이를 차단하도록 설정했다.
이에 대해 테크크런치는 챗봇이 청소년에게 미치는 영향은 아직 잘 알려져지 않은 상태로, 생성 AI를 통해 감정적 연결을 수익화하는 점을 우려해야 한다고 지적했다.
반면 이처럼 AI를 '가지고 노는' 것은 최근 AI 종말론자들이 생각하는 것과는 달리 젊은이들이 유약하지 않다는 것을 보여주는 사례라고 덧붙였다.
정병일 기자 jbi@aitimes.com
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com