오픈AI 퇴사한 초정렬팀 리더, 앤트로픽에 합류

지난 주 해체된 오픈AI의 '초정렬팀’ 팀 리더 얀 레이케가 경쟁사인 앤트로픽에 합류했다. 오픈AI의 공동 창립자인 일리야 수츠케버 수석과학자와 동반 사퇴한 레이케는 앤트로픽에서 인공지능(AI) 안전 관련 업무를 계속 맡게 된다.

블룸버그는 28일(현지시간) 얀 레이케가 X(트위터)를 통해 앤트로픽에서 인공지능(AI) 안전 관련 연구에 착수할 것이라고 밝힌 사실을 보도했다.

레이케는 확장 가능한 감독, 자동 정렬, 약-강 일반화 등을 연구할 예정인 것으로 알려졌다. 결과는 자레드 카플란 앤트로픽 최고 과학책임자에게 직접 보고한다.

앞서 오픈AI는 AI 위험을 연구하는 초정렬팀을 1년 만에 해체했다. 지난해 7월 조직된 초정렬팀은 동등한 수준의 지능을 갖춘 일반인공지능(AGI)의 위험성 관리 등 AI가 인간에게 해롭지 않은 방식으로 작동하는 기술을 연구해왔으나, 샘 알트먼 CEO와의 충돌을 빚었다. 결국 알트먼 CEO 축출에 수츠케버가 관련되며, 최근 팀 해체가 이뤄졌다. 관련 인력들도 회사를 떠났다.

딥마인드 출신인 라이케는 오픈AI를 떠나며 쓴소리도 남겼다.

그는 X에 “인간보다 훨씬 똑똑한 AI 시스템을 조종하고 제어하는 방법을 시급히 알아내야 하기 때문에 이 일에서 물러나는 것은 내가 한 일 중 가장 어려운 일 중 하나였다”고 밝혔다.

또 "지난 몇달 동안 컴퓨팅 지원을 받지 못하는 등 중요한 연구를 수행하는 것이 점점 더 어려워졌다”라며 “그동안 안전 문화와 프로세스는 제품 뒤로 밀려났다"라고 비판했다.

박찬 기자 cpark@aitimes.com