미국 캘리포니아주에서 대형 인공지능(AI) 기업에 안전성과 투명성을 요구하는 법안이 통과됐다. 이는 주요 AI 기업들이 반대에도 불구, 앤트로픽이 지지를 선언했던 법안이다.
개빈 뉴섬 캘리포니아주 지사는 29일(현지시간) 주 의회를 통과한 ‘SB 53’ 법안에 최종 서명했다. 이는 지난해 강력한 규제 법안 'SB 1047'을 제안했으나 거부 당했던 스콧 위너 캘리포니아 의원이 수위를 낮춰 다시 발의한 안이다.
이에 따라 연 매출 5억달러(약 7000억원) 이상 규모의 주요 AI 기업, 즉 오픈AI와 앤트로픽, 메타, 구글 딥마인드 등은 새로운 의무가 생겼다.
AI 모델이 인간의 통제를 벗어나거나 생물무기 개발에 악용될 가능성과 같은 재앙적 위험에 대해 평가하고 결과를 공개해야 한다. 또 사이버 공격, 모델의 기만적 행위 등 중대한 안전사고 발생 시 이를 캘리포니아 비상 서비스국에 보고할 수 있는 공공 보고 체계도 마련해야 한다.
또 내부 직원이 잠재적 위험을 제기하면 보호를 보장하는 내부 고발자 보호 장치도 포함됐다. 만약 의무를 위반할 경우, 기업은 최대 100만달러의 벌금을 부과받을 수 있다.
법안은 혁신과 안전의 균형을 추구했다는 긍정적 평가와 동시에, 주 단위 규제의 파편화 위험에 대한 경고를 동시에 불러왔다.
잭 클라크 앤트로픽 공동 창립자는 이번 법을 “공공 안전과 혁신을 조화시킨 강력한 틀”이라고 환영했다. 그러나 메타와 오픈AI는 반대 로비를 벌였고, 오픈AI는 뉴섬 주지사에게 공개서한을 보내 서명을 보류해 달라고 요청했다.
콜린 맥쿤 앤드리슨 호로비츠 정책 총괄은 “SB 53이 선례가 되면 50개 주마다 다른 규제를 적용받아 스타트업들이 감당할 수 없는 상황이 될 수 있다”라고 비판했다.
연방 차원에서도 논의가 진행 중이다. 민주·공화 의원 모두 연방 표준 마련 필요성에는 공감하고 있으나, 주 규제와의 관계 설정을 놓고 이견이 크다. 테드 리우 민주당 의원은 “AI 규제는 피할 수 없다. 다만 17개 주가 따로 할 것인지, 의회가 할 것인지 선택해야 한다”라고 말했다.
박찬 기자 cpark@aitimes.com
