미국이 초인공지능(ASI) 개발을 위한 'AI 맨해튼 프로젝트'에 나서는 것은 득보다 실이 많다는 지적이 등장했다. 대신, 핵무기 정책처럼 위험한 AI 개발을 막는 것이 적대국을 억제하는 데 효과적이라는 설명이다.
에릭 슈미트 전 구글 CEO와 알렉산더 왕 스케일 AI CEO, 덴 헨드릭스 AI 안전 센터 책임자 등은 5일(현지시간) '초지능 전략(Superintelligence Strategy)'이라는 전문가용 보고서를 발표했다.
이들은 미국이 초지능 AI 시스템을 독점적으로 통제하려고 나설 경우, 중국으로부터 강력한 보복을 불러올 수 있다고 주장했다. 이는 사이버 공격의 형태로 나타날 수 있으며, 국제 관계를 더욱 불안정하게 만들 수 있다는 분석이다.
특히, AI를 핵무기에 비유한 것이 핵심이다.
“ASI 개발을 위한 맨해튼 프로젝트는 경쟁자들이 AI를 악용하는 것을 막기보다 묵인할 빌미가 될 수 있다"라며 “이는 AI의 무기화를 촉발하고 긴장을 고조시킬 위험이 있다”라고 지적했다.
맨해튼 프로젝트는 2차 세계대전 중이던 1940년대 미국이 주도한 핵폭탄 개발 프로그램이다. 미국은 당시 소련에 앞서 핵폭탄을 개발하는 데 성공했으나, 결국 이는 군비 경쟁을 가속, 냉전 시대를 여는 결과를 낳았다.
하지만 핵무기 확산에 위협을 느낀 미국과 소련은 1968년 핵확산금지조약(NPT)에 합의하기 이르렀다. 이는 기존 핵무기 보유국을 제외하고 새로운 국가의 진입을 막는 내용이다.
슈미트 CEO 등은 AI도 이런 방식이 효과적이라고 밝혔다. 이를 위해 'AI 오작동 상호 보장(Mutual Assured AI Malfunction)'이라는 개념을 제시했다. 즉, NPT처럼 위험한 AI 개발 금지를 국제적으로 막자는 것이다.
이처럼 미국이 초지능 경쟁에서 승리하는 것에서 다른 국가들이 초지능 AI를 만드는 것을 막는 것으로 초점을 옮겨야 한다고 주장했다. 그 방법으로 적대 국가들이 고급 AI 칩과 오픈 소스 모델에 접근하는 것을 제한해야 한다는 것이다.
특히 AI는 핵무기와 달리 전 세계에 개발 상황이 속속 공유되고 있다. 이는 비밀리에 진행하던 맨해튼 프로젝트와는 근본적으로 다른 양상이기 때문에 경쟁을 유발하기 더 쉽다는 것이다.
물론, AI를 핵무기에 비유하는 것은 무리지만 그만큼 각국 정부는 AI의 경제적, 군사적 잠재력을 높게 평가하고 있다.
실제로 미국 의회의 경제안보검토위원회(USCC)는 지난해 11월 중국과의 경쟁에서 우위를 점하기 위해 AGI 개발을 지원하는 'AI 맨해튼 프로젝트'를 시작해야 한다고 제안했다.
또 크리스 라이트 미국 에너지부 장관은 최근 그렉 브록먼 오픈AI 사장과 "미국은 새로운 맨해튼 프로젝트를 시작했다"라고 밝힌 바 있다.
임대준 기자 ydj@aitimes.com
