지난 주말 동안 오픈AI의 '챗GPT' 사용자들은 흥미로운 현상을 목격했다. "데이비드 메이어"라는 이름에 대한 질문이 입력되면 챗GPT가 즉시 작동을 멈추거나 응답을 거부한다는 것이다.
테크크런치는 2일(현지시간) 챗GPT가 "데이비드 메이어"라는 이름이 언급되는 순간 대답을 중단하거나 아예 반응하지 않는 이상한 행동을 보였다고 전했다.
처음에는 단순한 호기심에서 관심을 끌게 된 이 현상은 사용자들이 데이비드 메이어뿐 아니라 브라이언 후드, 조나단 터리, 조나단 지트레인, 데이비드 파버, 구이도 스코르자 등의 이름에도 동일한 반응을 보인다는 것을 알아내면서 주목받기 시작했다.
이 이름의 소유자들은 같은 직업군에 속하지도, 무작위로 선택된 인물들도 아니었다.
사용자들은 이들 모두가 공통적으로 자신과 관련된 정보가 검색 엔진이나 AI 모델에서 제한되기를 원했을 가능성이 높다고 추정했다. 이는 이들이 온라인상의 자신의 정보를 제거하거나 접근을 제한하도록 요청했을 가능성을 시사한다.
데이비드 메이어는 연극과 역사학 교수로, 2023년 여름 94세의 나이로 사망하기 전 몇년 동안 자신의 이름을 가명으로 사용한 범죄자와 연관되며 법적 문제는 물론 온라인에서도 고초를 겪었다. 이로 인해 그는 여행조차 할 수 없는 상황에 몰린것으로 알려졌다.
브라이언 후드는 호주의 시장으로, 챗GPT가 과거 자신이 신고한 범죄를 자신이 저질렀다고 잘못 묘사했다고 비판한 인물이다. 이로 인해 오픈AI와의 소송까지 준비한 일이 있다.
데이비드 파버는 CNBC의 베테랑 기자이며, 조나단 터리는 변호사이자 폭스 뉴스의 해설자다. 이들은 2023년 말 가짜 911 신고로 무장 경찰이 출동하는 '스와팅' 사건을 겪었다.
이 외에도 조나단 지트레인은 ‘잊힐 권리’에 대한 논의에서 두각을 나타낸 법률 전문가이며, 구이도 스코르자는 이탈리아 데이터 보호 당국의 이사로 활동하고 있다.
결국, 챗GPT가 특별 관리가 필요한 이름들의 목록을 학습했거나 입력받았을 가능성이 높다는 분석이다. 법적, 안전, 개인정보 보호 또는 기타 사유로 인해, 이런 이름들은 모델에서 특별히 처리되고 있는 것으로 추정된다.
이에 대해 오픈AI는 데이비드 마이어라는 이름이 내부 프라이버시 도구에 의해 플래그가 지정됐다고 확인했으며, "챗GPT가 프라이버시를 보호하기 위해 사람들에 대한 특정 정보를 제공하지 않는 경우가 있을 수 있다"라고 밝혔다.
박찬 기자 cpark@aitimes.com
