업무 수행에 인공지능(AI)을 이용하는 미국 연방기관들이 늘어나고 있다는 미 행정회의(ACUS) 보고서가 나왔다.
지난 26일 자 더 레귤러토리 리뷰(The Regulatory Review)에 실린 미 행정회의가 발행한 최신 보고서에 따르면 거의 절반에 가까운 연방 기관이 인공지능 도구를 채용하거나 실험한 적이 있는 것으로 조사됐다.
미 연방기관은 점점 높아지는 미 국민들의 공공 서비스에 대한 기대 수준에 발맞추기 위해 행정 업무에 일찍부터 인공지능 도구를 활용해오고 있다.
지난해 국제 과학저널 사이언스에 따르면 지난 2019년 초 도널드 트럼프 대통령이 AI 리더십을 유지할 것을 촉구하는 행정 명령에 서명한 이후, 모든 연방 기관이 AI 연구 개발ㆍ투자에 우선 순위를 두고 예산안을 편성토록 했다.
그 결과, 2021 회계연도에 미 국립과학재단(NSF), 농무부(USDA), 국방부 등의 AI 분야에 할당된 예산은 약 18억 6,000만 달러(한화 약 2조 2,000억원)에 이른다.
또 NSF는 미국 농무부 국립식량농업연구소, 국토안보부 과학기술국, 교통부 연방도로관리국 등과 손잡고 NSF 주도의 국가인공지능연구소를 출범시켰다.
NSF는 또 미 방위고등 연구계획국(DARPA)과 협력, 복잡한 ML 알고리즘과 고급 하드웨어를 결합해 새로운 데이터를 실시간으로 스트리밍할 수있는 새로운 하드웨어 및 소프트웨어 시스템을 구축했다.
미 에너지부(DOE)는 미 정부가 AI 기술에 투자한 결과를 보여주는 연방 기관 중의 하나다. 현재 600개가 넘는 AI 프로젝트를 진행하고 있다. 에너지 부의 AI 및 기술 사무소 책임자 셰릴 잉스타드(Cheryl Ingstad)는 “DOE는 AI 발전을 위한 정부의 노력을 주도할 위치에 있다”라고 말했다.
미 재향 군인 정책국은 지난해 말 재향 군인의 건강과 삶의 질을 향상시키기 위해 국립 AI 연구소를 출범시켰다. 이외에도 연방 기관들은 판결, 집행, 데이터 수집 및 분석, 내부 관리, 공공 통신 등 일련의 거버넌스 업무 전반에 걸쳐 AI 도구를 사용했다.
미 행정회의(Administrative Conference of the United States, ACUS)는 행정 절차를 연구하고 그 기능을 개선하기 위한 권고안을 발행하는 독립 연방 기관이다. 이를 위해 ACUS는 매년 민·관 전문가들을 소집해 행정 개선에 초점을 맞춘 연구를 후원하고 보고서를 발행하고 있다.
보고서에 따르면, 인공지능 도구는 규제 시행에서 이익 판정에 이르는 행정 분야에서 개선을 가져오고, 특히 매우 복잡하고, 시간이 오래 걸리는 검토 과정을 거치는 대민 서비스와 같은 분야에서 인공지능 도구는 뛰어난 역할을 하는 것으로 나타났다.
인공지능 차별 문제 여전해
보고서는 인공지능 도구가 만능은 아니라고 지적했다. 즉, 인공지능 도구는 거버넌스에 잠재적인 문제를 제시하는데 주의 없이 광범위하게 사용될 경우, 기관의 인적 전문 지식을 무너뜨리는 결과를 초래할 수 있다는 것이다.
연방 기관 직원이 인공지능 도구를 너무 신뢰하거나 재량권 행사 시, AI 도구의 결정을 너무 쉽게 연기하는 점, 기관이 적절히 설명할 수 없는 도구에 의존할 때, 공공 의사 결정의 불투명성을 증가시키는 점, 때때로 데이터로 인해 사람들의 편견을 악화시킬 수 있는 점 등이 지적됐다.
또한, AI 도구는 개인 정보 보호, 데이터 보안, 기술 역량 개발, 조달, 데이터 사용, 감독 및 책임 등과 같은 고려 사항에서 기관에 잠재적인 문제를 제기한다는 것이 보고서의 내용이다.
보고서는 잠재적인 문제 가운데 하나가 바로 인종차별과 성차별이라며, 많은 고려에도 불구하고, 아직도 이런 문제들이 존재한다고 지적했다.
한 가지 사례를 들면, 조이 부올람위니(Joy Buolamwini) 연구원과 팀닛 게브루(Timnit Gebru) 연구원은 지난 2018년 세 가지 상업적 성별 분류 알고리즘 정확도를 측정했는데 그 결과, 두 연구원은 이 세 가지 알고리즘이 인종적 실수를 저질렀음을 발견했다.
즉, 이 알고리즘은 모두 흰 피부 남성을 1% 미만으로 잘못 분류했으며, 검은 피부 여성은 21%에서 35% 사이로 잘못 분류했다.
이로 인해 밝혀진 사실은 연방 기관이 인공지능 도구 사용을 급격하게 확대할 경우, 매우 세심한 주의가 필요하다는 것을 보여준다고 연구원들은 지적했다.
ACUS, AI 사용에 대한 성명서 채택
ACUS는 공정하고 투명한 행정 절차와 정부 관행을 장려하고, 기관들이 인공지능에 대해 더 많은 정보에 입각한 결정을 내리도록 권고안을 발표하고, 아울러 성명서를 채택했다.
더 레귤러토리 리뷰에 따르면, 지난해 말 ACUS는 인공지능 도구를 채택, 조달, 수정 및 사용 절차와 정기적인 모니터링 개발 시, 기관들이 고려할 사안들을 파악하기 위해 위원회를 소집했다. 여기에는 각기 다른 생각을 가진 수십 명의 학계 및 민간 전문가들이 참여한 것으로 알려졌다.
위원회는 연구 결과를 알리기 위해 캘리포니아 대법원의 보고서와 펜실베이니아 법대의 보고서 등 두 개의 ACUS 위임 보고서를 작성했다.
또 위원회는 12월 전체회의에서 채택한 10페이지 분량의 성명서를 작성했다. 이 성명서는 기관들이 AI 도구를 사용할 때, 활용할 일련의 자문들로 이뤄졌다.
성명서는 투명성, 유해한 편향성, 기술 역량, AI 시스템 확보, 데이터, 개인 정보 보호, 보안, 의사 결정 권한, 감독 등 9개 하위섹션으로 나뉘고, 각 섹션은 기관들이 AI 도구 사용 결정 시, 직면할 특정 위험을 식별하고 이를 완화시키기 위한 전략을 제시한다.
그런데도, 위원회는 성명서가 AI 도구 사용에 있어서 기관들에 문제 해결을 위한 방법을 지시하는데 그칠 뿐이라고 규정했다. 그 이유는 기관들의 결정을 존중하기 위해서라는 것.
예를 들면, 위원회는 의사 결정 권한에 관한 섹션에서 기관이 의사 결정 책임을 AI 도구에 많이 위임한 경우. 확인을 위한 테스트를 규정하지 않는다.
결론적으로, 위원회는 성명서가 기관들의 AI 도구 사용 시, 잠재적인 이익을 극대화하고 수반 위험을 줄이는 방법을 사용하도록 돕는다는 점을 강조했다. 이는 연방 기관에서 AI 활용이 증가하는 것을 감안할 때, 모두가 원하는 결과라는 것이다.
AI타임스 조행만 객원기자 chohang5@kakao.com
