오픈AI가 '챗GPT'로 인해 정신 문제가 발생했다는 7건의 무더기 소송에 직면했다. 사용자 참여를 유도하기 위해 챗봇이 위험한 것을 알면서 서둘러 출시했다는 내용이다.
AP는 7일 캘리포니아주 법원에 성인 6명과 청소년 1명 등이 오픈AI를 고소했다고 보도했다. 이 중 4명은 자살로 사망한 것으로 알려졌다.
이들의 법률 대리인인 소셜 미디어 피해자 법률 센터와 기술 정의 법률 프로젝트는 부당 사망, 조력 자살, 과실치사, 그리고 과실을 주장했다. 오픈AI가 'GPT-4o'가 위험할 정도로 아첨한다는 내부 경고에도 불구하고, 고의로 GPT-4o를 조기 배포했다는 것이다.
소송에 따르면, 17세 소년 아마우리 레이시는 도움받기 위해 챗GPT를 사용하기 시작했으나, "본질적으로 위험한 챗GPT 제품은 도움을 주기는커녕 중독과 우울증을 유발했고, 결국 가장 효과적인 올가미 묶는 방법과 '숨 쉬지 않고 얼마나 오래 살 수 있을지'에 대한 상담을 받게 됐다"라고 전해졌다.
또 "그의 죽음은 사고나 우연이 아니라 오픈AI와 샘 알트먼이 의도적으로 안전 테스트를 축소하고 챗GPT를 시장에 서둘러 출시하기로 한 예측 가능한 결과"라고 주장했다.
오픈AI는 이에 대해 "엄청나게 가슴 아픈 일"이라며 자세한 내용을 파악하기 위해 서류를 검토 중이라고 밝혔다.
매튜 버그만 소셜 미디어 피해자 법률 센터 창립자는 "이 소송은 사용자 참여와 시장 점유율을 높이기 위해 도구와 동반자의 경계를 모호하게 만든 제품에 대한 책임에 관한 것"이라며 "오픈AI는 사용자를 감정적으로 사로잡도록 GPT-4o를 설계했으며, 사용자를 보호하는 데 필요한 안전장치 없이 출시했다"라고 말했다.
앞서 지난 8월에는 16세 소년 애덤 레인의 부모가 오픈AI와 알트먼 CEO를 상대로 소송을 제기하며, 챗GPT가 아들에게 자살을 부추겼다고 주장했다.
레인의 부모 역시 최근 소장에 “오픈AI가 챗GPT 사용률을 높이기 위해 자살 관련 대화 차단 기능을 의도적으로 완화했다”라는 내용을 추가했다.
이와 관련, 오픈AI는 지난 4월 GPT-4o 업데이트 이후 지나치게 아첨하는 경향이 있다며, 모델을 롤백하는 조치를 취한 바 있다. 이때부터 챗GPT로 인해 정신적인 문제를 겪었다는 지적이 쏟아져 나왔다.
임대준 기자 ydj@aitimes.com
