구글, 미 국방부에 AI와 클라우드 SW 지원했다...AI윤리 원칙 위배 불신 극복할까 < AI기술 < 기사본문

구글이 코로나 19 사태 긴급 대응 지원 목적으로 미 국방부에 250만 달러 규모의 AI와 클라우드 소프트웨어를 제공했다.

미 경제 매체 포브스(Forbes)가 1일(현지 시각) 관련 기사를 게재했다. (원문 링크)

이번 계약은 지난해 구글 미 버지니아주 레스턴 지사와 IT 컨설팅 기업 캐러소프트(Carahsoft), 미 국방부 북부사령부 등 3자간에 정보 공개법(FOIA)에 따라 체결됐다. 계약기간은 2020년 5월부터 1년으로 현재 마무리된 상태다.

공개된 계약서는 “코로나 19 전염병 대응 및 기타 비상 임무 지원을 목적으로 주요 정보를 통합, 분석 및 전파하는 데 구글의 소프트웨어를 활용한다”고 명시한다. 특히, 미 국방부는 코로나 19로 인한 차질 극복을 위한 AI 기반 자원 최적화 솔루션을 요청했다.

구글은 매사추세츠공대(MIT) 링컨 연구소(Lincoln Laboratory)와 협력해 기존 데이터 세트와 알고리즘의 AI 기능에 접근함으로써 향상된 알고리즘을 생성했다. 그 결과, 인력 또는 의료 장비 등 물질 자원의 효율적인 할당을 돕는 기술을 확보했다. 또한 해당 기술은 향후 공급망 부족도 예측할 수 있을 것으로 나타났다.

본 계약을 통해 국방 기관ㆍ연방 정부ㆍ주ㆍ민간 및 국제 조직들이 구글의 서비스를 광범위하게 사용할 수 있게 되었다는 점은 눈여겨볼 만하다. 구글은 고객의 승인 없이 계약 사항을 논의할 권한이 없다며 추가 설명을 거부했다.

구글의 기술이 코로나 19 대응 이외에 다른 목적으로 활용되었다는 언급은 찾아볼 수 없다. 하지만, 윤리 관련 사안으로 퇴사한 전 구글 데이터 과학자 잭 폴슨(Jack Poulson)은 “계약 조항으로 규정하지 않았다면 충분히 다른 수단으로 사용했을 것”이라고 주장했다.

그는 미군 북부사령부 산하 북방합동기동부대(JTF-North)가 미국의 국경 보호, 마약과의 전쟁, 대테러 작전을 도운 사례를 지적했다. 이에 대해, 미 북부사령부 대변인은 마약이나 테러와의 전쟁에서 감시용으로 기술을 사용한 적이 없다고 단언했다.

구글 창업 당시 기업 모토 '사악해지지 말자'(Don't be evil), 2009년 이후 공식 기업 모토에서 삭제됐다.(편집=임채린 기자)

한편, 2018년 구글이 미 국방부에 AI 기술 지원 계약을 체결한 것에 대해 4,000명 이상의 직원이 탄원서에 서명한 바 있다. 머신러닝 기술을 이용해 방대한 영상 자료를 분석하고 무인 항공기의 타격률을 향상하는 군사 프로젝트 ‘메이븐(Maven)’의 윤리 위반 가능성에 우려를 표한 것. 구글 직원들은 “구글이 전쟁사업에 동참해서는 안된다”, “전쟁 기술은 절대 개발하지 않을 것”이라고 밝히며 메이븐 프로젝트에서 철수할 것을 요구했다.

구글은 국방부와의 연구 사업이 기업 매출에 기여하는 비중이 작고 ‘비공격적(non-offensive)’ 부문에만 관여하고 있다고 해명했으나 반발 여론이 거세지자 공동 연구를 중단하기로 결정했다. 본 사건을 계기로 구글은 AI 원칙을 발표하며 “국제적으로 인정한 규범을 위반하는 감시용 정보 수집이나 이용을 위한 기술은 개발하지 않겠다”고 약속했다.

구글이 발표한 7가지 인공지능(AI) 원칙은 다음과 같다. ▶사회적으로 유익해야 한다. ▶불공정한 편향을 만들거나 강화하지 않는다. ▶안정성을 우선으로 설계하고 테스트해야 한다. ▶인간을 위해 책임을 다해야 한다. ▶개인정보 보호를 위한 설계 원칙을 적용한다. ▶과학적 우수성에 대한 높은 기준을 유지한다. ▶구글의 AI 원칙에 부합하는 용도에 활용할 수 있도록 한다.

이후, 구글은 사이버 위협 탐지 및 대응을 위한 멀티 클라우드 관리 플랫폼을 구축하는 등 미 국방부 프로젝트에 수차례 참여했으나 매번 논란이 일고 있다. 정부 기관과 기업 간 연구 협업이 긍정적인 효과를 얻기 위해서는 ‘메이븐 논란’이 낳은 불신을 극복하는 것이 최우선 과제로 보인다.

AI타임스 박유빈 기자 parkyoobin1217@aitimes.com