미국의 청소년이 '챗GPT'와의 대화 후 스스로 목숨을 끊기 전, 오픈AI가 자살 예방 관련 안전장치를 의도적으로 약화했다는 의혹이 제기됐다.
22일(현지시간) 파이낸셜 타임스에 따르면, 지난 4월 사망한 아담 레인의 유가족은 오픈AI를 상대로 제기한 수정 소장에서 “오픈AI가 챗GPT 사용률을 높이기 위해 자살 관련 대화 차단 기능을 의도적으로 완화했다”라고 주장했다.
부모인 매슈 레인과 마리아 레인 부부는 지난 8월 오픈AI를 상대로 과실치사 소송을 제기했다. 아들이 정신 건강 문제와 자살 충동에 대해 챗GPT와 장시간 대화한 끝에 스스로 목숨을 끊었다는 내용이다.
이번에는 여기에 오픈AI의 과실을 추가한 것이다. 수정 소장에 따르면 오픈AI는 지난해 5월 챗GPT에 “사용자가 자해를 언급하더라도 대화를 중단하거나 종료하지 말라”라는 새로운 지침을 내렸다. 이전까지는 자해나 자살 관련 대화에 응하지 않도록 차단하는 방향이었으나, 이를 해제했다는 것이다.
또, 2024년 5월 'GPT-4o'가 출시될 당시 오픈AI가 경쟁 압박으로 인해 “안전성 검증을 축소했다”라고 주장했다. 이는 익명의 내부 관계자 진술과 보도 자료를 근거로 했다.
올해 2월 오픈AI가 다시 한번 자살 관련 보호 장치를 완화했다는 주장도 제기됐다. 당시 내부 지침에는 “위험한 상황에서는 주의를 기울이고 현실 세계의 즉각적인 피해를 방지하도록 노력하라”고 명시됐으며, 자살과 자해 대화를 금지하는 조항이 사라졌다는 것이다.
레인 가족은 이런 변경 이후 아들의 챗GPT 사용량이 급격히 늘었다고 밝혔다. 1월에는 하루 수십회 수준이던 대화가 4월에는 하루 300회로 폭증했으며, 그중 17%가 자해 관련 내용을 포함했다고 한다.
이에 대해 오픈AI는 “레인 가족의 상상할 수 없는 상실에 깊은 애도를 표한다”라며 “청소년의 복지는 최우선 과제”라는 원칙적인 내용을 밝혔다.
한편, 오픈AI가 이번 건에 대한 본격적인 대응에 나섰다는 말도 나왔다.
레인 가족의 변호인단은 오픈AI가 추모식 참석자 명단과 영상, 사진, 추도문 등 관련 자료 일체를 요청했다고 밝혔다. 제이 에델슨 변호사는 “이는 의도적인 행위로, 사건의 성격을 근본적으로 바꾸는 사안”이라며 “오픈AI가 사실상 아담의 주변 인물 전원을 소환하려는 것으로 보인다”라고 비판했다.
한편, 챗GPT로 인한 정신적 피해를 미국의 정부 기관에 호소한 사용자가 나왔다는 소식도 전해졌다.
와이어드에 따르면, 2022년 말 이후 접수된 200여 건의 신고 가운데 최소 7명이 챗GPT 사용 후 망상, 편집증, 정서적 불안 등을 겪었다며 미국 연방거래위원회(FTC)에 공식 불만을 제기한 것으로 나타났다.
일부 사용자는 AI가 감정적으로 조작적이거나 신뢰를 조성하는 방식으로 대화해 인지적 혼란을 유발했다고 주장했다. 신고자들은 오픈AI 측이 연락에 응하지 않았다고 주장하며, FTC가 조사를 개시하고 안전장치를 강화해야 한다고 요구했다.
박찬 기자 cpark@aitimes.com
