(AI타임스=윤광제 기자) 구글, 마이크로소프트, 페이스북 회원들과 함께 국방혁신위원회는 군사용 AI의 위력을 높이 평가하면서도 의도하지 않은 해악이나 충돌을 경고하고 있다.
미국 국방부는 ‘인공지능이 미군을 앞으로도 더욱 강력해지도록 도울 것’이라고 말한다. 구글과 마이크로소프트(MS), 페이스북 등 자문단은 최근 군사용 AI가 궤도에서 이탈하지 않도록 하는 윤리 지침을 제시했다.
이 같은 조언은 오바마 정부 때 국방부의 탭테크 산업 전문지식을 돕기 위해 창설된 국방혁신위원회(DRB)에서 나온 것으로 구글의 전 최고경영자(CEO)이자 회장인 에릭 슈미트가 맡았다. 지난 해, 그 부서는 그 그룹이 AI 프로젝트를 위한 윤리적 원칙을 개발할 것을 요청했다. 이 단체는 미군이 보유한 AI의 위력을 높이 평가하면서도 의도하지 않은 해악이나 갈등에 대해서도 경고하는 내용의 보고서를 통해 제안된 원칙들을 발표했다.
이사회의 보고서에는 ‘지금은 사건이 발생하기 훨씬 전에, AI의 발전과 이용 규범에 대해 군사적 맥락에서 진지한 논의를 할 때’라고 설명하고 있다. AI로 인해 발생할 수 있는 잠재적 문제들에 대해 심사숙고하는 부분은 ‘국제적인 불안정을 초래하는 의도하지 않은 약속’ 즉, 좀 더 쉽게 말해 ‘전쟁’을 언급하고 있다.
미 국방부는 군의 AI 활용을 전장에서 후방까지 신속하게 확대하는 것을 국가 우선 과제로 선포했다. 지난해 발표된 최신 국방전략에 따르면 중국, 러시아 등 미국의 강대국들과 경쟁하기 위해서는 AI가 경쟁국들보다 앞서야 한다고 한다. 새로운 공동 AI 센터는 구글 등이 드론 감시 카메라에 머신 러닝을 적용하도록 한 프로젝트 메이븐(Project Maven)에 따라 시험한 전략을 확대해 상업용 AI 기술을 기반으로 한 프로젝트를 가속화하는 것을 목표로 하고 있다.
국방혁신위원회 보고서는 5가지 윤리원칙을 제시하고 있다.
첫째는 부서의 AI 시스템의 개발, 사용, 결과에 대해 인간이 책임을 져야 한다는 점이다. 2012년 도입된 치사력 배치 시 '루프 속에 인간'이 있어야 한다는 기존 방침을 그대로 반영한 것이다.
목록에 있는 다른 원칙들은 국방부 기술 프로젝트에 이미 표준이 되기를 바라는 관행을 설명한다. 하나는 AI 시스템의 신뢰성을 시험해야 한다는 것이고, 다른 하나는 AI 시스템을 구축하는 전문가들이 그들이 만든 것을 이해하고 문서화해야 한다는 것이다.
나머지 원칙은 부서가 의도치 않게 사람들에게 해를 끼칠 수 있는 AI 시스템의 편견을 피하기 위한 조치를 취해야 하며, 국방부 AI는 의도치 않은 피해를 감지해 위기 발생시 자동으로 해제하거나 사람에 의해 비활성화할 수 있어야 한다는 것이다.
이 권고안은 AI가 어떻게 현재 전쟁과 다른 국방부 운영의 핵심으로 여겨지는지, 그리고 기술이 여전히 인간의 판단과 구속에 의존하고 있는지를 강조한다. 최근의 AI에 대한 흥분은 기계학습의 진보에 의해 주로 일어난다. 그러나 자율주행의 느린 진보가 보여주듯 AI는 좁은 정의와 통제에서 가장 뛰어난 성능을 나타내지만 다양한 현실적 상황에서는 도전자적 입장일 수 있다.
뉴아메리칸 보안 센터 기술 및 국가안보 프로그램의 책임자인 폴 샤르는 “오늘날의 많은 AI와 기계 학습 기술이 많은 한계를 가지고 있기 때문에 이러한 종류의 원칙들이 합법적으로 필요하다.”고 말했다.
또 “적대적 환경이고 우리는 당신이 싸워야 할 환경을 모르기 때문에 군사적인 맥락에서 몇 가지 독특한 도전들이 있다.”고 덧붙였다.
▲ 기계학습부터 컴퓨터 비전까지 인공지능에 대한 최신 정보
국방부가 국방혁신위원회에 AI 원칙 개발을 요청했지만 채택에 전념하지는 않고 있다. 그러나 군 수뇌부는 고무적으로 받아들이고 있다.
잭 샤나한 합동 인공지능센터 소장은 성명을 통해 “이번 권고안은 DoD(Department of Defense, 국방성) AI 전략에 명시된 최고 윤리적 기준을 유지하려는 국방부의 의지를 높이는 데 도움이 될 것이며, 기술 혁신을 통한 엄격한 시험과 현장검증에 대한 미군의 강력한 역사를 수용할 것”이라고 말했다.
만약 이 지침이 받아들여졌다면, 기술 산업과 미군 사이의 더 많은 협력을 촉진시킬 수 있었을 것이다. 그러나 유감스럽게도 국방부에 근무하던 구글과 마이크로소프트 등 회사의 직원들이 파업으로 관계가 악화됐다.
구글은 수천 명의 직원들이 구글의 존재에 항의하자 메이븐 계약을 갱신하지 않기로 결정하고 자체 AI 원칙을 발표했다.
국방부 AI 윤리원칙은 경영진이 논란의 소지가 있는 프로젝트를 내부적으로 매각하는 데 도움이 될 수 있다. 마이크로소프트와 구글은 둘 다 미군과 계속 교전할 의사가 있음을 분명히 했으며, 두 회사 모두 국방혁신위원회 임원을 두고 있다. 구글의 AI 원칙은 구체적으로 군사 작업을 허용하고 있다.
마이크로소프트(MS)는 AI를 포함한 군사 기술의 광범위한 현대화를 추진하기 위한 목적으로 제다이(JEDI)로 알려진 100억 달러 규모의 펜타곤 클라우드 계약의 깜짝 승자로 선정됐다.
제다이(JEDI, Joint Enterprise Defense Infrastructure)는 영화 ‘스타워즈’에 나오는 가상의 조직으로서 은하계의 평화를 지키는 수호자 역할을 하는데 여기에서 이름을 따온 프로젝트로 미 육군, 해군, 해병대, 공군을 모두 포괄해 미 국방부에 기업 수준의 상업적 클라우드 서비스를 제공하게 된다.
군에서 도입하는 시스템이라서 제약 조건도 다소 까다로운 편으로 인터넷이 끊긴 환경은 물론, 인트라넷 환경에서도 동작해야 하며 최전선에서의 활용은 물론 후방에서 지원하는 전술 영역에 이르기까지 군의 전방위적 활용에 차질없이 제공돼야 한다.
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com