전 세계 소수자와 활동가는 경찰이 인공지능(AI), 안면인식 등 신기술을 점점 더 활발히 사용하고있다 점에 대해 불만을 토로해 왔다.
UN 인권 전문가들이 경찰과 국경경비대원 대상 피부색ᆞ인종을 기반으로 용의자를 추적하는 ‘인종 프로파일링’ 기법을 사용해서는 안된다고 말했다고 아랍권 매체 알자지라가 26일(현지시간) 보도했다. UN 전문가 집단은 AI로 수집한 빅데이터 사용이 소수자에 대한 편견 강화로 이어지지 않을 것을 보장해야 한다고 덧붙였다.
UN 전문가는 "취업지원자 심사에 종종 사용되는 알고리즘 기반 프로파일링 시스템을 공공기관과 민간기업에 판매하는 기업은 편견을 가중하는 개인 데이터 오남용을 막기 위해 반드시 규제를 받아야 한다"고 말했다.
법 집행기관이 빅데이터를 활용해 누가, 무엇을 할 지 판단하는 용도로 사용하는 기술이 빠르게 발전하고 있다.
베렌 셰퍼드 UN 인종차별철폐위원회 위원은 전문가 18명과 함께 인종프로파일링 기법 금지, 편견 가중 개인 데이터 오남용 규제 등의 내용을 담은 권고안을 작성했으며, 이를 인종 차별을 금지하는 구속력 있는 국제조약을 비준한 182개국에 제시했다.
셰퍼드는 "AI 기술이 미국에서 널리 쓰이고 있으며 유럽연합(EU)과 중남미에서도 아프리카계 토착민들이 프로파일링에 대해 항의하고 있다”며 “많은 경찰이 신원조회, 교통정리, 수색 등을 하는 범죄예측 프로파일링 기법을 사용하고 있다"고 말했다.
UN 인종차별철폐위원회는 “AI로 인해 피해를 입은 사람들이 무사히 생존해 있다면 보상받을 수 있다”고 추천했다. 위원회는 “때때로 AI가 가한 편견이 좋지 않은 결말을 불러일으키기 때문이다”고 언급했다.
AI타임스 문재호 기자 jhmoon@aitimes.com
