오픈AI 전현직 직원 9명 공개서한..."AI 위험 경고 막지 말 것"

전현직 오픈AI 직원 9명이 인공지능(AI) 안전에 대한 내부 고발자를 보호하라는 공개서한에 서명했다. 이는 얼마전 초정렬팀의 해체와 일부 직원들의 퇴사 과정 중 불거진 '비밀 유지 계약'을 철회하라는 말이다.

비즈니스 인사이더는 4일(현지시간) 오픈AI와 구글 딥마인드, 앤트로픽 등의 직원 13명이 AI에 대한 투명성을 높이고 안전을 강화하기 위해 조치에 나설 것을 요구하는 성명을 발표했다고 전했다.

이들은 AI 회사가 인공일반지능(AGI) 개발 경쟁에 매달리며 안전보다는 이익과 성장을 우선하고 있다고 지적했다. 또 이 과정에서 생긴 내부 경고를 잠재우기 위해 비방 금지 서약을 강요하고 있다고 지적했다.

특히 비방 금지 계약 문제는 지난달 일부 직원이 회사를 떠나며 알려진 내용이다. 복스 미디어는 계약서를 직접 확인했다고 보도했다.

이에 따라 샘 알트먼 오픈AI CEO는 X(트위터)를 통해 자신은 최근 알게 된 사실이라며 이를 폐지하겠다고 밝혔다. 또 이런 계약 조항으로 실제 손해를 본 사람은 없다고 설명했다.

하지만 2주가 지난 뒤에도 같은 내용이 등장했다. 이들은 비판 금지 계약 철회 외에도 ▲우려 사항 공식 제기를 위한 익명의 내부 프로세스 수립 ▲외부 노출 허용 ▲보복 금지 등을 주장했다.

오픈AI 거버넌스 부서의 전직 연구원이자 이번 서한 주도자인 디나엘 코코타일로는 “오픈AI가 책임감 있게 행동할 것이라는 희망을 잃었기 때문에 떠나기로 했다”라며 "회사는 AGI 구축에만 집중하고 있으며, 최초가 되기 위해 무모한 경쟁을 펼치고 있다"라고 지적했다.

한편 이번 공개서한에는 'AI 대부'로 알려진 요슈아 벤지오 몬트리올대학교 교수와 제프리 힌튼 토론토대학교 교수기 지지 의사를 보냈다. 이들은 잘 알려진 AI 안전 주의자다.

이처럼 오픈AI는 일리야 수츠케버 최고과학자의 퇴사와 초정렬팀 해체 이후 AI 안전 문제로 집중포화를 맞고 있다.

오픈AI 대변인은 이에 대해 "회사는 가장 유능하고 안전한 AI 시스템을 제공한 우리의 실적을 자랑스럽게 생각하며 위험 해결에 대한 우리의 과학적 접근 방식을 믿는다"라며 "이 기술의 중요성을 고려할 때 엄격한 토론이 중요하다는 데 동의하며 전 세계 정부, 시민 사회 및 기타 커뮤니티와 계속해서 협력할 것"이라고 밝혔다.

임대준 기자 ydj@aitimes.com