15개월간 협의 거쳐…국방혁신위 권고안 기반
AI 군사적 사용 관련 국제 규범 확립 기여 기대
미국 국방부가 군사분야에서의 인공지능(AI) 기술 사용을 위한 새로운 ‘윤리원칙(ethical principles)’을 공식 채택했다.
지난 24일(현지시간) 미국 통신사 UPI와 AP 등 외신보도에 따르면 이날 미 국방부의 윤리원칙은 정부와 산업계·학계 등 각계 주요 AI 전문가들과의 15개월에 걸친 협의 끝에 채택됐다. 지난해 10월 미국 국방혁신위원회는 마크 에스퍼(Mark Esper) 미 국방부 장관에게 이와 관련한 첫 권고사항을 제시한 바 있다. 즉 이번 윤리원칙은 에릭 슈미트(Eric Schmidt) 전 구글 CEO가 위원장인 국방혁신위원회의 권고안에 따라 마련된 것이다.
에스퍼 장관은 성명서를 통해 “미국은 동맹국·파트너들과 함께 향후 전략적 지위 유지, 미래 전장에서의 승리, 규범 기반의 국제 질서 보호 등을 위해 AI 도입을 가속화하고 AI의 국가 안보분야 적용에 있어 주도적인 역할을 해야 한다”고 전했다. 또 “앞으로 AI 기술이 미래의 전장에 많은 변화를 가져올 것이나 책임감 있고 합법적인 행동을 하겠다는 미국의 입장은 변함없을 것”이라고 설명했다.
기존의 2012년 군사 지침은 인간이 자동화된 무기체계를 관리·제어하도록 요구하고 있으나 AI의 광범위한 사용과 관련해서는 다루고 있지 않았다. 반면 새로운 원칙은 정보 수집과 감시 운영부터 비행기·선박의 유지 보수 문제 예측에 이르기까지 전투·비전투 적용 영역을 모두 아우르고 있다.
새로운 윤리원칙 채택에 따라 앞으로 목표물 추적 항공 이미지 스캔 시스템과 같이 AI 기반 시스템을 도입·사용할 시에는 적절한 수준의 판단과 관리가 요구된다. 또 자동화된 시스템을 통해 내려진 결정은 ‘추적 가능’하고 ‘관리·통제 가능’해야 한다. 미 국방부(DoD) 공동인공지능센터(JAIC) 책임자인 잭 샤나한(Jack Shanahan) 공군 중장은 “(AI 시스템이) 의도하지 않게 비정상적으로 작동되는 경우 비활성화할 수 있는 방법이 마련돼야 한다”고 설명했다.
이번 AI 윤리원칙은 미국 헌법과 전쟁법, 국제조약 등에 기반한 미군의 기존 윤리체계를 바탕으로 하고 있다. 워싱턴에 소재한 미 국방부(DoD) 공동인공지능센터(JAIC)는 새로운 AI 윤리원칙을 시행·조정하는 역할을 할 계획이다.
미 국방부는 ”AI가 새로운 윤리적 모호성과 위험성을 야기한다“는 점을 인정하며 이번 윤리원칙을 마련했다. 그러나 일각에서는 이 같은 원칙이 무기 통제 옹호자들이 기대하는 더욱 강력한 제한에는 미치지 못한다는 지적이 나오고 있다.
레베카 크루토프(Rebecca Crootof) 리치몬드 대학교 법률 교수는 “AI 윤리원칙 채택은 좋은 첫 단계”라고 언급하면서도 “군은 AI 시스템이 사용하는 방대한 데이터와 사이버 보안 위험을 비판적으로 평가할 수 있음을 보여줄 필요가 있다”고 말했다. 이어 “미국의 행동이 AI의 군사적 사용에 관한 국제적 규범을 확립하는 데 도움이 되길 바란다”고 덧붙였다.
한편, 최근 미 국방부가 AI 역량 강화 노력을 가속화하는 가운데 국방부가 추진하는 100억 달러 규모의 클라우드 컴퓨팅 분야 사업인 일명 ‘제다이(JEDI, Joint Enterprise Defense Infrastructure)’ 프로젝트 계약 입찰을 둘러싸고 IT 기업들 간의 경쟁이 치열했다. 그 결과 최종 해당 사업을 수주하게 된 기업은 마이크로소프트(MS)였다. 그러나 아마존웹서비스(AWS)가 가처분신청을 통해 MS의 국방부 사업 진행을 중단해달라고 청구한 건이 법원에서 인용됨에 따라, 미 국방부는 향후 아마존과 법정 다툼이 이어지는 동안 MS와 제다이 사업 진행을 할 수 없게 된 바 있다.
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com