바이든 당선된다면 78세로 미 역사상 최고령 대통령···부통령 역할 막중해져
검사출신 상원의원···사이버 보안법 발의·실리콘밸리 주요 IT정책 이슈 주도
“해리스, 美 AI 정책·알고리즘 편견 심각히 수용할 준비 가장 잘된 사람중 하나”
안면인식 관련 인종·성별·다른 특징에 기초한 알고리즘 편견 해결 촉구 적극적
연방내 AI법 발의·편견 영구화할 잠재성 있는 안면인식 같은 기술 공개비판
연방 비차별법으로 보호되는 어떤 편향·차별적 영향 등 완화할 사례 권고가능
“AI·기계학습은 제공자와 제공 자료따라 학습하고 기능···편견 발견 쉽지 않아”
“당신이 어떻게 생각하든 카말라 해리스 미 민주당 대선 부통령 후보는 미국 인공지능(AI) 정책과 알고리즘 편견을 심각하게 받아들일 준비가 가장 잘 된 사람 중 한 명으로 보인다.”
벤처비트는 11일(현지시간) 오는 11월 미 대선에서 조 바이든 민주당 대선 후보가 러닝메이트로 카말라 해리스 상원의원(캘리포니아)을 선택하면서 뜨거운 관심을 부르고 있는 해리스의 이력과 AI정책에 대해 짚어본 후 이같은 결론을 제시했다.
캘리포니아주 오클랜드에서 태어나 버클리 주에서 자란 해리스는 흑인 최초의 여성이자 아시아계 미국 여성 최초로 주요 정당의 미국 부통령 후보로 선택됐다. 부통령 후보 선출은 때때로 의례적인 것으로 여겨질 수 있지만, 만약 당선된다면, 바이든은 78세의 나이로 미국 역사상 가장 나이가 많은 대통령이 될 것이다. 그만큼 그녀의 위상과 역할이 막중해진다는 의미가 된다.
전문가들은 민주당 전당대회와 선거일까지 이어지는 몇 주간 동안 다양한 이슈에 대해 해리스의 입장을 꼼꼼하게 분석할 예정이다.
검사 출신인 해리스는 상원 법사위 위원으로 알려져 있지만 의회에서 사이버 보안 제안을 주도하고 샌프란시스코만 실리콘밸리 지역의 주요 IT정책 이슈를 제기해 왔다.
벤처비트는 AI와 정책이 교차하는 상황에서 카말라 해리스 미 상원의원이자 대선 부통령 후보가 이 이슈에 어떻게 대응했는지 짚어봤다.
◆안면인식 관련 줄기차게 인종·성별, 또는 다른 특징에 기초한 알고리즘 편견 해결 촉구
지난 2018년 가을 해리스는 다른 미 상원 의원들과 함께 연방 기관에 일련의 서한을 보내 인종, 성별, 또는 다른 특징에 기초한 알고리즘 편견문제를 해결하도록 촉구했다.
그녀는 고용평등기회 위원회(Equal Employment Opportunity Committee Commission)에 보낸 한 서한에서 이 기관이 고용 관행에 있어서의 알고리즘 편향 주장을 어떻게 조사하는지, 기관이 안면인식 기술 사용을 기존 시민권 및 직장 차별 금지법 위반으로 간주하는지 여부를 물었다.
해리스가 우리나라의 공정위원회 격인 미 연방거래위(FTC)에 보낸 서한에서는 안면인식 소프트웨어(SW) 사용으로 흑인 여성이 허위로 체포되는 시나리오를 상상하고 있다. 실제로 지난 6월 미국에서 안면인식 기술이 범인을 잘못 식별하면서 흑인 남성들이 범인으로 몰려 체포된 사례가 발생했다.
그녀는 또 미 연방수사국(FBI)에 보낸 서한에서는 지난 2016년 미연방회계국(GAO)이 보고서를 통해 ‘FBI가 적용중인 안면인식 기술을 테스트하고 그 정확성을 보장하기 위해 다른 조치를 취하라’고 권고한 사항에 FBI가 답변했는지 여부를 알고 싶다고 요구했다. 문제의 안면인식 시스템은 FBI는 물론 주 정부와 지방 정부 공무원들이 사용하고 있다. 몇 달 후 FBI가 GAO의 권고에 따라 행동하지 않은 것이 하원 감독개혁위원회 청문회에서 주요 의제가 됐다.
각 서한은 미 의원 몇 명을 범죄자로 잘못 식별한 미국시민자유연행(American Civil Liberties Union)연구와 조이 부올람위니, 젠더 쉐이드(Gender Shades)프로젝트의 연구를 결과를 인용했다. 이 연구결과들에서는 IBM이나 마이크로소프트(MS)와 같은 회사의 얼굴 인식 시스템이 검은 피부의 여성보다 백인 남성들에게 더 좋은 성능을 보인다는 것이 드러났다.
해리스 의원은 미 부통령 후보로서 안면 인식과 다른 기술이 인종 편견을 더 진전시키지 않도록 하기 위해 민권 단체 및 법 집행 기관과 협력하는 것을 포함하는 형사 사법 제도를 도입했다. 그 계획에는 주 정부와 지방정부 공무원들이 똑같이 하도록 설득하기 위해 연방기금을 사용하도록 하는 내용이 포함됐다. 버니 샌더스 같은 후보자들은 FBI를 포함한 연방 사법 당국의 얼굴인식 기술 사용 전면 금지를 지지했다.
조지 플로이드 사망 이후 경찰 개혁과 제도적 인종차별 종식을 요구하는 열화와 같은 요구 속에서 해리스의 예측적 치안 유지와 안면인식 기술 사용 같은 문제에 대한 입장은 특히 중요할 수 있다.
이러한 문제에 대한 그녀의 입장은 캘리포니아 주 법무장관, 샌프란시스코 지방 검사, 알라메다 카운티 검사를 지낸 그녀의 이력에서도 찾아 볼 수 있다.
◆지난해 ‘정부내 AI법’ 발의해 연방 AI사용 정책에 편향성 없애려 노력
해리스 의원은 지난 2018년 처음 도입된 후 지난해 다시 발의된 ‘정부내 AI법(AI in Government Act)’를 발의한 4명의 미 상원의원 중 한 명이었다. 이는 미연방정부 총무청(ㄴGSA)를 통해 보다 응집력 있는 연방 AI 정책을 개발하는 데 도움을 주었을 법안이었다.
2019년 발의된 ‘정부내 AI법’안은 각 연방기관의 장들에게 AI 채택에 대한 장벽을 제거하는 방법을 권고하도록 방향을 지시할 뿐 아니라 ‘연방 비차별 법’에 따라 보호되는 어떤 분류에 의한 편향이나 차별적 영향, 또는 연방정부에 의해 사용된 AI사용에 의한 의도치 않은 결과들을 식별·평가·완화하기 위한 최선의 모범사례를 권고할 수 있다.
이 법은 또한 연방기관이 AI 서비스를 받아들이고 전문 기술 지식을 제공할 수 있도록 돕기 위해 GSA 내에 우수 센터(Center of Excellence)를 신설할 것이다. 우수 센터는 백악관 과학기술청에 자문하고 국방성은 물론 국가과학재단과 협의해 연방기관의 AI 활용 관련 정책 개발을 돕는다.
국가의 연구개발 필요성과 폭넓은 전략을 고려한 통합 AI 정책은 경제활동에도 중요하지만 미국정부와 미군 연구개발 전략에도 점점 더 매이고 있다. 예를 들어 미국과 중국은 다른 국가들에 대한 일종의 AI 패권을 유지하겠다는 목표를 세웠다.
결국 정부내 AI법은 최근 수년간 도입된 AI 규제와 활발한 미국의 전략을 알리기위해 발의된 많은 법안들처럼 눈에 띄는 초당적 지지를 이끌어냈지만 아직 표결까지 이르지는 못하고 있다. 해리스 의원은 AI 규제를 도입한 첫 의원은 아니었고, 안면인식 규제와 가장 연관성이 높은 의원도 아니었다. 그러나 그녀의 공개 발언과 입법적 안전장치에 대한 지지는 그가 AI가 편견을 영구화할 가능성에 대해 우려하고 있음을 보여준다.
해리스 의원은 지난해 4월 자신의 상원 의원실을 통해 올린 동영상에서 “이러한 신흥 분야와 AI, 기계학습 같은 이슈를 함께 들여다 보면 [인종 편향성]이 어떻게 그 안에 구축되고 있는지에 대해 매우 우려할 필요가 있다”고 말했다. 그는 “진짜 이슈고 실시간으로 일어나고 있다. 그리고 기술에서의 인종적 편견에 대해 말하자면 기계학습은 여러분이 백화점에 들렀을 때나 운전하고 있을 때 아주 쉽게 인식할 수 있는 인종적 편향과는 달리 거기에 내재된 편견을 발견하는 게 그리 쉽지 않을 것이라는 점이다. 기계학습은 말 그대로 기계가 배우고 있는 것이고, 또 제공되는 자료를 배우는 것이고, 이는 이 자료를 제공하는 사람과 제공되는 자료에 따라 기능하는 학습이다”라고 말했다.
바이든-해리스 2020민주당 대선 플랫폼은 상원의원이나 대선 후보로서의 카말라 해리스의 입장과 다를 수 있다. 그럼에도 불구하고 해리스는 연방정부를 위한 일관성있는 AI 전략을 만들기 위한 초기 법안을 도입했고, 편견을 영구화할 수 있는 잠재력과 입증된 가능성을 가진 기술을 공개 비판해 왔다.
벤처비트는 이같은 그의 AI관련 입법활동 등을 바탕으로 “카말라 해리스는 많은 카테고리에서 주요 정당 티켓의 첫 번째 사람으로 불릴 수 있지만, 당신이 어떻게 생각하든 해리스는 국가 AI 정책과 알고리즘 편견을 심각하게 받아들일 준비가 가장 잘 된 사람 중 한 명으로 보인다”고 평가했다.
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com