오픈AI와 구글, 메타, 앤트로픽 등 인공일반지능(AGI) 개발을 목표로 하는 프론티어 모델 개발사들이 '킬 스위치(kill switch)'를 도입하는 데 합의했다.
리시 수낙 영국 총리는 21일(현지시간) 'AI밋'에 맞춰 전 세계 각국을 대표하는 AI 기업 16곳이 첨단 AI 모델의 안전한 개발을 약속하는 데 서명했다고 발표했다.
수낙 총리는 “전 세계 여러 지역의 선도적인 AI 기업들이 모두 AI 안전에 대한 동일한 약속에 동의한 것은 세계 최초”라며 ”이런 약속은 세계 최고의 AI 기업들이 안전한 AI 개발 계획에 투명성과 책임성을 제공할 수 있도록 보장합니다”라고 말했다.
기업들은 이번 협약에 따라 자발적인 서약을 발표할 예정이다. 또 악의적인 행위자의 기술 오용을 방지하는 등 프론티어 모델의 과제를 포함한 안전 프레임워크를 공개하게 된다.
여기에는 자동화된 사이버 공격과 생물무기 위험 등 용납할 수 없는 위험의 종류(레드 라인)가 포함되며, 이런 위협을 완화할 수 없는 경우 모델 개발을 중단하는 킬 스위치를 구현할 계획이다.
이번 협약에는 아마존과 앤트로픽, 코히어, 구글(딥마인드), 인플렉션 AI, IBM, 메타, 마이크로소프트, xAI 등 미국의 대표적인 AI 기업과 프랑스의 미스트랄AI, 아랍에미리트(UAE)의 G42 및 정부 산하 기술혁신연구소(TII), 중국의 지푸, 그리고 국내의 네이버와 삼성전자가 포함됐다.
UAE에서 두곳이 포함된 것이 눈에 띈다. 국영 기술기업인 G42는 지난해 '팰컨'이라는 오픈 소스 모델로 인기를 얻었으며, TII는 최초의 아랍어 대형언어모델 '자이스'를 출시한 바 있다.
또 지푸는 중국 AI 스타트업 중 선두 주자로, 각종 벤치마크에서 중국 내 챗봇 중 최고 성능을 기록한 바 있다.
한편 킬 스위치는 AI 최고 석학인 스튜어트 러셀 UC버클리대 컴퓨터과학과 교수 등이 주장해 온 것으로, 기업들이 자발적으로 이를 도입하겠다고 밝힌 것은 처음이다.
다만 이번 서약에는 법적 강제성이 없고 실제 킬 스위치 운용에 대한 세부 가이드 라인을 정하기도 어려워, 실효성이 있을지는 지켜볼 필요가 있다.
임대준 기자 ydj@aitimes.com
