영국 항소법원, 경찰 자동안면인식 기술 사용 위법 판결
인권‧데이터보호법 등 위반…영향평가 등 조치 불충분해
안면인식 편향성 논란 재점화…다른 국가에도 영향 전망
영국에서 경찰의 안면인식 기술 사용이 위법하다는 판결이 나왔다. 미국의 일부 주에서 경찰의 안면인식 기술 사용을 금지하고는 있으나 법원에서 불법이라는 판결을 내린 것은 이번이 세계에서도 처음이다. 다른 국가에도 영향을 미칠 것으로 전망된다.
영국 항소법원이 영국 경찰의 자동안면인식시스템(AFR Locate) 사용에 대한 위법성을 인정했다고 12일(현지시간) BBC와 블룸버그통신 등 주요 외신이 일제히 보도했다. 영국 경찰이 안면인식 기술 채택으로 인권‧평등 및 데이터 보호법을 위반했다는 판결이다.
항소법원은 11일(현지시간) “영국 사우스 웨일즈 경찰(SWP)이 (안면인식) 소프트웨어 프로그램의 인종적 또는 성적 편향성 여부를 확인하기 위한 합리적인 조치를 취하지 않았다”며 “민감한 데이터를 처리하는 데 필요한 영향평가가 불충분하다”고 설명했다.
또 법원은 어디서 이 기술이 사용될 수 있는지, 누가 감시대상이 될 수 있는지 등에 관한 명확한 지침‧규정이 없다는 점을 비롯해 경찰에게 너무 광범위한 재량권이 주어졌다고 전했다. 이는 지난해 9월 고등법원의 판결을 완전히 뒤집는 결과다. 당시 재판부는 경찰의 손을 들어주며 이 같은 판결이 사실상 전 세계적으로 안면인식과 관련한 첫 판결이라고 말한 바 있다.
이번 판결은 민권운동가인 에드 브리지스(37세)가 영국 인권단체인 '리버티(Liberty)‘와 함께 제기한 소송에 따른 것이다. 브리지스는 지난해 9월 경찰이 그의 동의 없이 얼굴을 스캔해 인권을 침해했다는 이유를 들어 소송을 제기했으나 패소했다. 당시 고등법원은 이 같은 주장을 받아들이지 않은 채 기각 판결을 내렸다.
항소를 제기한 브리지스는 물론 인권‧사생활 보호 운동가들은 이번 법원 결정을 안면인식 기술 반대 투쟁에서 ’대승‘을 거둔 것이라고 평가하면서 환영 의사를 표했다. 브리지스는 “지난 3년간 사우스 웨일즈 경찰은 수십만 명을 대상으로 동의 없이 혹은 모르는 사이에 해당 기술을 사용해왔다”며 “우리 모두 억압적 감시를 받지 않고 공공장소를 이용할 수 있어야 한다”고 말했다.
리버티 대변인은 성명에서 “경찰의 (안면인식) 기술 사용에 대한 최초의 법적 조치”라고 밝혔다. 리버티 측은 “법원은 이번 판결로 안면인식 기술이 우리의 권리를 침해하고 자유를 위협한다는 사실에 동의한 것”이라고 강조했다. 이어 “이제 정부는 안면인식 기술이 내포한 위험성과 심각성을 인식해야 할 때”라면서 안면인식 기술의 금지를 주장했다.
사우스 웨일즈 경찰은 지난 2017년부터 축구 경기와 록 콘서트 등 수십 곳에 카메라를 배치해 범죄자의 데이터베이스를 기반으로 오가는 행인들을 확인하는 데 안면인식 기술을 시행해왔다. 경찰 측은 “신원이 확인된 용의자는 현장에서 체포하고 다른 신원이 확인되지 않은 용의자들의 데이터는 폐기된다”며 “이 기술 덕에 강도‧절도‧법원 영장 등과 관련해 61명을 체포했다”고 밝혔다. 아울러 브리지스는 감시 대상에 오른 적이 없다는 사실을 확인했다고 전했다.
사우스 웨일즈 경찰은 이번 판결에 대해 이의를 제기하지 않을 것이라고 말했다. 또 현재 영국 내무부와 추후 관련 정책에 있어 조정이 필요한 사항을 논의하고 있다고 밝혔다. 이 기술의 개발‧적용에 대해 신중한 접근을 취하겠다는 입장이다. 한 경찰 고위 관계자는 “안면인식 기술의 목적은 대중의 안전을 지키는 것”이라며 “해당 기슬이 범죄자를 식별하고 위험인물로부터 지역사회를 보호하는 데 기여한다”고 설명했다.
최근 안면인식을 비롯해 인종차별을 조장하는 인공지능(AI) 알고리즘의 편향성 논란이 뜨겁다. 이번 영국 법원의 결정은 영국뿐 아니라 안면인식 기술 사용을 재고‧개선하려는 여러 다른 국가들에도 영향을 미칠 것으로 전망된다.
뉴욕타임스는 지난 6월 미국 미시간주에서 안면인식 알고리즘 오류로 인해 로버트 윌리엄스라는 흑인 남성이 저지르지도 않은 범죄 혐의로 잘못 체포된 사건을 심층 보도했다. 당시 사건은 안면인식 알고리즘의 결함과 이러한 기술을 사용하는 경찰의 업무 역량 부족이 야기한 결과로 AI의 편향성이 얼마나 위험한지를 보여주는 사례로 꼽히고 있다.
미국의 경우 안면인식 문제를 다루고 있는 연방법이 부재한 상황에서 일부 주정부와 지방정부가 자체적으로 안면인식 기술 사용 규제를 위한 조치를 취해왔다. 최근에는 미국 보스턴 시의회가 안면인식 기술 사용 금지안을 만장일치로 가결한 바 있다. 이 밖에도 지난해 샌프란시스코 시 등 몇몇 도시는 이미 안면인식 기술을 금지해오고 있다.
한편, 영국에서는 프리티 파텔 내무장관이 인종 편향적이라는 비판을 받고 있는 비자 신청 처리 알고리즘 시스템의 사용 중단 의사를 최근 밝힌 바 있다. 당시 일각에서는 영국 내무부가 법적 판결에 앞서 내린 AI 의사결정 알고리즘 시스템의 재검토 결정이 하나의 이정표가 될 수 있다는 의견이 제기되기도 했다.
[관련기사] 사진만으로 범죄자 예측?…AI 편향성 논란 재점화
[관련기사] "얼굴인식을 막아라"...美 시카코대, 얼굴인식 막는 '클로킹' 기술 개발
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com