앤트로픽이 주요 인공지능(AI) 기업들의 반대에도 불구하고, 프론티어 AI 모델을 겨냥한 캘리포니아주의 투명성 의무 규제 법안을 공개 지지를 선언했다.
앤트로픽은 8일(현지시간) 홈페이지를 통해 스콧 위너 캘리포니아주 상원의원이 발의한 AI 안전 규제 법안 ‘SB 53’을 공식 지지한다는 글을 게시했다.
“최첨단 AI 안전 문제는 연방 차원에서 다루는 것이 바람직하다고 보지만, 워싱턴의 합의를 기다릴 수 없다”라며 “AI 거버넌스는 오늘 신중히 설계하느냐, 아니면 내일 뒤늦게 대응하느냐의 문제”라고 강조했다. 이어 “SB 53은 전자의 길을 제시한다”라며 지지 의사를 밝혔다.
법안이 통과되면 오픈AI와 구글, xAI 등은 물론, 앤트로픽도 안전 프레임워크를 마련하고, 강력한 모델을 출시하기 전 공공 안전 및 보안 보고서를 공개해야 한다. 내부 직원의 안전 우려 제기(고발)를 보호하는 조항도 포함됐다.
위너 의원의 법안은 특히 ‘재앙적 위험’ 방지에 초점을 맞추고 있다. 여기에는 50명 이상 사망 또는 10억달러 이상의 피해를 일으킬 가능성, 생물학무기 개발 지원, 대규모 사이버 공격 등 극단적 위험이 포함된다. 딥페이크나 아첨 같은 단기적 문제보다는 장기적 대형 리스크에 무게를 실었다.
이는 지난해 등장해 화제가 됐던 캘리포니아의 'SB 1047'과 흡사하다. 법안 발의자도 위너 의원으로 같다.
당시 실리콘 밸리 기업들은 이를 강하게 비난하고 나섰고, 오픈AI는 법이 통과되면 주를 떠나겠다고 밝힌 바 있다. 결국 이 법안은 의회를 통과했으나, 주지사의 서명 거부로 입안에 실패했다.
이번에도 캘리포니아 상원은 SB 53의 초기 버전을 통과시켰지만, 최종 표결과 개빈 뉴섬 주지사의 서명을 앞두고 있다. 뉴섬 주지사는 아직 이와 관련한 의견을 밝히지 않았다.
실리콘 밸리와 트럼프 행정부는 SB 53과 같은 규제를 강하게 반대해 왔다. 중국과의 경쟁 속에 미국의 혁신을 저해할 수 있다는 이유에서다. 트럼프 행정부는 주 차원의 AI 규제를 전면 차단하겠다고 위협하기도 했다.
잭 클라크 앤트로픽 공동 창립자는 X(트위터)에서 “연방 차원의 기준이 바람직하다”라며 “하지만, 연방이 움직이지 않는 상황에서 SB 53은 무시할 수 없는 청사진을 제공한다”라고 말했다.
반면, 크리스 레인 오픈AI 글로벌 담당 책임자는 지난달 뉴섬 주지사에게 보낸 서한에서 “스타트업을 캘리포니아 밖으로 내모는 규제를 통과시키면 안 된다”라고 주장했다.
전문가들은 SB 53이 이전의 SB 1047보다 현실적이고 절제된 접근으로 법제화 가능성이 크다고 평가하고 있다. 딘 볼 미국 혁신재단 선임연구원은 테크크런치와의 인터뷰에서 “기술적 현실을 존중하고 입법적 자제력을 보였다”라며 긍정적인 평가를 내놓았다.
박찬 기자 cpark@aitimes.com
