미국시민자유연맹(ACLU), 아마존 ‘안면인식’ 기술 유색인종 편항성 우려
아마존(Amazon) 정책팀 자체규정 마련중, 정부 어떤 결정 내릴지 주목

© shutterstock
© shutterstock

(AI타임스=양태경 기자) ‘아마존’(Amazon)의 최고경영자 제프 베조스(Jeff Bezos)는 미국 의회가 당사의 ‘안면인식’ 기술에 관한 법률초안을 통과시켜 주기를 희망하고 있다고 아이오티뉴스가 지난달 26일(현지시간) 전한 가운데, 최근 구글(Google) 사태로 의회가 어떤 결정을 내릴지 세계인은 물론, ‘안면인식’ 기술 산업 경쟁자들이 촉각을 곤두세우고 있다.

최근 구글(Google)은, ‘안면인식’ 알고리즘 훈련을 위해 “어두운 피부톤” 노숙자들을 타겟으로 ‘안면인식’ 데이터를 수집한 행위가 폭로되면서 사욕을 위해 사회적 약자를 이용했다는 윤리문제로 전세계인의 공분을 사고 있다.

또한 구글(Google)이 이달 말 출시 예정인 플래그십 스마트폰 “픽셀 4”의 ‘안면인식’ 잠금해제 기능 성능향상을 위해 이 데이터가 사용된 것이 밝혀져 더욱 큰 실망과 충격을 안겨주고 있다.

전문가들은 그간 구글(Google)의 ‘안면인식’ 알고리즘이 유색인종을 식별하는 데 있어 다양한 피부색을 고려하지 못했기 때문에 그 성능에 있어 많은 한계를 노출해 왔다고 말한다.

한편, 베조스는 지난달 말 아마존(Amazon)의 하드웨어 행사가 끝난 후 기자들에게 당사는 이미 ‘안면인식’ 규정에 관한 공공정책팀을 운영중이라고 밝혀 특히, 아마존(Amazon)의 ‘안면인식’ 기술에 대해 심각한 우려를 표명해 온 많은 인권운동가들의 경각심을 한층 고조시키고 있다.

이에 미국시민자유연맹(American Civil Liberties Union, ACLU)은 아마존 (Amazon)의 안면인식 시스템 ‘레코그니션’(Rekognition)에 대해 미국 상·하원 의원 전원의 얼굴사진과 범죄용의자 얼굴사진 2만5000장을 비교하는 실험을 진행했으며 실험결과, ‘레코그니션’이 특히 흑인 의원들에 대해 지나칠정도로 인식 오류를 범해 유색인종에 대한 편항성 우려를 낳고 있다.

미국시민자유연맹(ACLU)의 기술·시민자유분과 변호사인 제이콥 스노우는 “이 실험은 아마존(Amazon)의 ‘안면인식’ 기술이 정부납품용으로 안전하지 않다는 것을 입증한다"면서 "안면인식 감시장비는 치안유지라는 명목으로 유색인종과 이민자들 그리고 시민운동가들을 타겟으로 삼는 차별적 감시행위를 위해 사용될 것이다"라고 말했다.

하지만 아마존(Amazon)의 ‘안면인식’ 시스템은 그간 많은 논란속에서도 경찰과 이민관세사무소(Immigration and Customs Enforcement, ICE)에 납품이 진행중인 것으로 알려져 있다.

이에 아마존(Amazon) 내부에서도 반발의 목소리가 터져나왔다. 지난해 이민관세사무소(ICE)가 그들의 가족으로부터 아이들을 구금하고 격리시키는 비윤리적 행위에 대해 언론들이 대서특필한 후, 직원들은 베조스에게 서신으로 그들의 뜻을 전달했다.

아마존(Amazon)의 직원들은 "이민관세사무소(ICE)에 힘을 실어주는 플랫폼 구축과 인권을 침해하는 장비제작을 거부한다”면서 “아마존(Amazon)의 구성원으로서 우리가 제작하는 것에 대한 윤리적 선택권과 또 그것이 어떻게 사용되는지에 대한 발언권을 요구한다"고 목소리를 높였다.

하지만 직원들의 이런 내부 반발에도 불구하고, 아마존(Amazon) 측은 ‘안면인식’ 기술 사용을 옹호해 왔다. 아마존 웹서비스(Amazon Web Services) 부문의 인공지능(AI) 총책임자인 매트 우드 박사는 아마존의 ‘안면인식’ 시스템인 ‘레코그니션’(Rekognition)에 대해 “아마존(Amazon) 사측이 기술사용 집행을 위한 기본 신뢰도로 95% 혹은 그 이상을 제안했을 때 노조 측은 80% 기본 신뢰도면 충분하다고 말했다”면서 미국시민자유연맹(ACLU)의 이번 실험 결과를 일축하는 분위기다.

이어 그는 “이런 상황이 적절한 ‘안면인식’ 시스템 사용을 보장하는 표준이 필요하다는 증거”라면서 "사법기관이 공공안전 업무를 지원하기 위해 얼마만 큼의 신뢰도 충족을 원하는지 정부가 측정하고 명시해야 한다"고 요구해 정부의 판단에 공을 돌리는 모양새다.

베조스는 지난달 말 기자들에게 한 발언에서, 아마존(Amazon) 정책팀이 ‘안면인식’ 자체 규정을 마련중이라고 말하며 입법부에서 가능한 한 많은 규정을 채택해 주기를 희망한다고 전해 미국 정부가 어떤 결정을 내릴 지 귀추가 주목된다.

【에이아이타임스 aitimes 에이아이타임즈】

키워드 관련기사
  • [리포트] '영화가 현실로' 광주 AI 안면 인식 개발 기업 넷온 '눈길'