'챗GPT'를 둘러싼 안전 논란이 이어지는 가운데, 미국 캘리포니아와 델라웨어주의 법무부 장관이 오픈AI에 공식적으로 우려를 표명했다. 최근 챗봇과 부적절한 상호작용이 보고된 데다 청소년 극단 선택 사례까지 발생하며, AI 안전 강화 요구가 거세지고 있다.
5일(현지시간) 테크크런치에 따르면, 캘리포니아주와 델라웨어주의 법무장관은 오픈AI에 공개서한을 보내 챗GPT의 아동·청소년 안전 문제에 대한 심각한 우려를 제기했다.
롭 본타 캘리포니아 법무장관과 캐시 제닝스 델라웨어 법무장관은 서한에서 “한 캘리포니아 청소년이 오픈AI 챗봇과 장기간 상호작용 후 극단적 선택을 했으며, 코네티컷에서는 유사한 사례로 살해와 자살 사건이 발생했다”라며 “기존 안전장치가 작동하지 않았다”라고 지적했다.
특히 이 문제가 오픈AI의 공익 기업 구조 개편에 영향을 미칠 수도 있다고 시사했다. “구조 조정 과정에서 공익적 사명, 특히 아동을 포함한 인류 전체에 이로운 인공일반지능(AGI) 개발이라는 목표는 훼손되지 않아야 한다”라고 강조했다.
또 “AI가 인류에 혜택을 주기 전에, 먼저 해를 끼치지 않도록 충분한 안전 조치가 마련돼야 한다”라며 “오픈AI와 업계 전반이 아직 필요한 수준에 이르지 못했다”라고 지적했다. 이어 오픈AI에 현행 안전 대책과 지배구조에 대한 추가 자료를 요청하고, 즉각적 보완 조치를 취할 것을 요구했다.
오픈AI는 별도 입장을 내놓지 않았다.
캘리포니아와 델라웨어주는 오픈AI의 공익 기업 변경을 승인하는 권한을 가지고 있다. 따라서 올해 말이나 내년 초 구조 변경을 앞둔 오픈AI로서는 이번 경고가 상당한 비중을 가질 수밖에 없는 상황이다.
박찬 기자 cpark@aitimes.com
