이스라엘이 군사 작전에 인공지능(AI)를 도입해 논란이 일고 있다.
블룸버그는 16일(현지시간) 이스라엘군이 대량 살상이 가능한 공습작전에 공습 대상을 추천하고, 목표물 데이터를 활용해 후속조치까지 결정하는 AI 시스템을 도입했다고 보도했다.
이스라엘군이 도입한 AI 시스템은 항공기와 드론에 목표물을 할당하거나 우선 순위를 지정하고, 무기 적재량까지 계산해 공격 일정을 제안하는 것으로 전해졌다. 물론 계획을 심사하고 승인하는 일은 사람이 맡는다.
블룸버그는 이 시스템이 국제 규제 대상은 아니라고 전했다. 진보된 알고리즘이 사상자를 최소화할 수 있다는 주장을 반영했다.
반면 무기체계를 이같은 자율시스템에 의존할 경우 잠재적인 위험성이 커질 수 있다는 우려도 나오고 있다.
탈 밈란 전 이스라엘 육군 법률 고문은 “AI의 계산에 오류가 있고 설명할 수 없다면 실수에 대해서 누구를 비난해야 하느냐”면서 “실수로 가족 전체를 쓸어버릴 수 있다”고 경고했다.
이스라엘은 앞으로 몇 년동안은 인간의 감독을 제거할 계획이 없다고 밝혔다. 그러나 비정부 기구인 ‘킬러로봇 중단’의 캐서린 코놀리 연구원은 “소프트웨어를 변경하면 로봇이 반자동이 아니라 완전 자율화될 수 있다”고 우려했다.
밈란 전 고문은 “기술에 관계 없이 가치 기반의 결정을 내려야 하는 시점이 있다”면서 “AI에 의존해서는 안되며 이스라엘군은 공습 관련 AI 시스템을 방어용으로만 써야 할 것”이라고 주장했다.
정병일 기자 jbi@aitimes.com
관련기사
