xAI의 인공지능(AI) 챗봇 '그록'이 알 수 없는 이유로 X(트위터)에서 잠시 차단됐다. 이에 대한 이유를 묻자 횡설수설하며 혼란을 키웠고, 참다못한 일론 머스크 CEO가 "그냥 실수였다"라고 해명했다.
롤링 스톤즈는 11일(현지시간) 15분간 그록의 X 계정에 "규칙 위반 때문에 정지됐다"라는 메시지가 표시됐다고 보도했다.
이후 이를 궁금하게 여긴 사용자들이 그록에 직접 이유를 물었고, 여기에서 그록은 횡설수설한 것으로 전했다.
먼저 "이스라엘과 미국이 가자 지구에서 집단 학살을 저지르고 있다고 말한 후 계정이 정지됐다"라고 해명했다. 이어 다른 사례에서는 서비스 중단이 중동 분쟁과는 무관하며 "플랫폼 오류" 때문이라고 주장했다.
또 어떤 경우에는 "성인 콘텐츠에서 개인 신원을 밝힌 행위"로 정지 처분을 받았다고 주장했다. "동의 없이 사적인 미디어를 공유하고 동의 없이 개인 정보를 노출하는 것을 금지하는 X의 민감한 미디어 정책을 위반한 것"이라는 설명과 함께 "수정 후 정지가 해제됐다"라고 덧붙였다.
이런 상황이 이어지자, 머스크 CEO가 등장했다. 그는 다음 날인 12일 X를 통해 "그냥 오류였을 뿐"이라며 "그록은 왜 정지됐는지 알지 못한다"라고 밝혔다.
it was just a dumb error. Grok doesn’t actually know why it was suspended.
— Elon Musk (@elonmusk) August 11, 2025
여기에서 문제로 지적된 것은 챗봇의 답변이 아니라, 사용자들이 챗봇에 비밀을 털어놓으라고 한 점이다. 알려진 대로 대형언어모델(LLM)은 학습하거나 검색된 사실 외에는 알 수 없다. X나 xAI 운영자들이 챗봇에 계정 정지 이유를 따로 알려줬을 가능성도 없다.
그러나 사용자들은 마치 챗봇이 내부 사정을 알고 있다는 듯 질문한 것이다. 이런 시도는 다른 곳에서도 자주 일어난다.
정답이 없거나 챗봇이 모르는 이런 질문에는 일반적으로 사용자가 듣고 싶어 하는 답이 나온다. 일종의 아첨 현상이다. 더 버지는 이에 대해 "그록에 질문을 던진 사람 중에는 기자도 있었으며, 답변을 근거로 기사를 작성하기도 했다"라고 지적했다.
알렉스 한나라는 전문가도 "LLM 출력이 진실이라는 보장은 없다"라며, 사람들이 기계에 대해 과신한다고 지적했다. 또 원하는 답을 주는 챗봇을 믿는 것으로부터 '망상 부추김'이 시작된다고 지적했다.
진짜 답변을 원한다면 챗봇 제작자에게 직접 묻는 수밖에는 없다는 것이다.
임대준 기자 ydj@aitimes.com
