오픈AI, AGI 안전 대비 팀 또 해체..."세상은 AGI에 대해 준비 안 돼"

오픈AI에서 일반인공지능(AGI) 안전을 준비하던 리더가 또 팀을 떠났다. 이에 따라 팀도 해체됐다. 그는 "오픈AI는 몰론, 어떤 회사도 AGI에 대비된 회사는 없다"라고 쓴소리를 남겼다.

오픈AI의 AGI 준비 담당 수석 고문인 마일즈 브런디지는 23일(현지시간) X(트위터)를 통해 회사를 떠난다고 발표했다.

그는 "오픈AI에서 안전에 대한 연구 제약이 너무 심해졌다"라며 제약이 없는 자유로운 비영리단체에서 관련 연구를 계속하겠다고 밝혔다.

특히 "오픈AI나 다른 어떤 첨단 연구소도 AGI에 준비가 돼 있지 않고, 세상도 준비가 돼 있지 않다"라고 강조했다. 이어 "분명히 말하지만, 이 발언은 오픈AI에서도 논란이 될 것으로 생각하지 않는다"라며 "언젠가는 회사와 세계가 대비를 할 것이 사실과 현재 그렇지 못하다는 것은 별개의 사실이기 때문"이라고 설명했다.

이번 발언은 지난 5월 오픈AI를 떠나 앤트로픽에 합류한 얀 라이케 정렬팀 리더의 말과 흡사하다. 그도 "몇달 동안 컴퓨팅 지원을 받지 못하는 등 중요한 연구를 수행하는 것이 점점 더 어려워졌다”라며 “그동안 안전 문화와 프로세스는 빛나는 제품 뒤로 밀려났다"라고 비판했다.

브런디지는 지난 6년 동안 회사의 AI 안전 이니셔티브를 담당해 왔다. 그의 퇴사로 오픈AI는 AI 준비(AGI Readiness) 팀을 해체했다. 이는 5월 초정렬 팀에 이은 두번째 AGI 관련 안전 팀의 해체다. 

대신 오픈AI는 새로운 AI 모델 출시에 앞서 안전 검토를 담당하는 위원회를 신설하고, 지난달 독립적인 이사회 감독 조직으로 분리했다.

브런디지의 퇴사는 오픈AI의 영리기업 전환과도 관련이 있을 것이라는 분석이다. 산업 편향과 이해 상충이 없는 독립적인 의견이 필요하다는 점을 강조한 게 그 예다.

하지만 이런 입장에도 불구하고 브런디지는 오픈AI가 아무런 조건 없이 자금 지원, API 크레딧, 초기 모델 접근 권한을 제공해 작업을 지원하겠다는 제안을 했다고 언급했다.

임대준 기자 ydj@aitimes.com