안면인식의 편견, 모든 이에게 심각한 피해 야기 가능
미국컴퓨터학회(ACM)가 미국 의회에 정부와 기업의 안면인식 기술 사용 중단을 촉구했다.
벤처비트는 30일(현지시간) ACM가 국회의원들에게 정부ᆞ기업이 얼굴 인식 사용을 즉각 중단할 것을 요구했다고 보도했다.
미국기술정책위원회(USTPC)는 얼굴인식 기술이 향후 더욱 개선되겠지만 실생활에 도입되기에는 아직 미흡한 부분들이 있어서 일반 사람들의 인권과 법적 권리에 위협이 될 수 있음을 인정했다.
USTPC는 이날 공개한 서한(PDF)에 “안면인식 기술이 유발하는 편견은 이 사회에서 가장 취약한 계층 인구를 비롯해 특정 인구 집단의 삶, 생계 그리고 기본권에 심각한 피해를 야기하는 수준을 넘어서 확장될 수 있다”고 밝혔다.
안면인식기술 사용을 연구하고 있는 단체들은 얼굴인식 기술의 광범위한 활용이 미국 흑인들의 삶에 부정적인 영향을 미칠 것이라고 결론지었다. 미국시민자유연맹(ACLU)ᆞ알고리즘 정의 연맹(Algorithmic Justice League)과 같은 단체들은 이전부터 얼굴 인식 사용을 중단해야 한다는 입장을 밝혀왔다. 기술 사용 중지를 지지하는 집단 중에는 세계에서 가장 큰 컴퓨터학회 중 하나인 ACM(회원 수 10만여 명)이 있다. ACM은 시그라프(Siggraph), 슈퍼컴퓨팅 콘퍼런스(ICS) 등 대규모 AI 연례총회도 개최한다.
USTPC는 편지에 정확성, 투명성, 위험 관리, 책임감과 같은 이슈들을 둘러싼 얼굴 인식 규정에 대한 원칙들을 명시했다.
- 인종, 성별 및 기타 적절한 인구 통계 자료에 따라서 시스템 오류 내용을 구분한다
- 얼굴 인식 시스템은 제삼자의 감사와 정부로부터 감시를 철저히 받아야 한다
- 안면 인식을 사용할 때는 사람들에게 알려야 하며, 활용되기 전에 적절한 사용된 사례가 반드시 있어야 한다
- 얼굴 인식을 이용하는 조직은 얼굴 인식 시스템이 사람에게 피해를 주는 경우 책임을 져야 한다
이 서한은 얼굴 인식을 영구적으로 금지할 것을 요구하는 게 아니라, 인종과 성별에 대한 정확한 기준이 마련될 때까지 일시적인 중단을 할 것을 요구한다.
‘젠더 쉐이즈(Gender Shades)’와 미 상무부 산하 국립표준기술연구소(NIST)가 2018년과 2019년 주요 안면 인식 시스템을 시험한 결과 인종적ᆞ성적 편견을 드러낸다는 사실을 발견했다. 특히 성 정체성을 지키지 않는 사람들을 대상으로 한 편견이 심했다.
상원과 하원의 의원들은 지난 26일 연방 직원들이 안면 인식 기술을 사용하는 것을 금지하고 이 기술을 사용하기를 고집하는 주 및 지방 정부에 대한 자금 지원을 줄이는 법안을 제출했다. 국회 의원들은 종종 안면 인식 기술 사용을 금지하는 법안을 통과시키는 주요 동기 부여 요인으로 편견을 언급한다. 아마존, IBM, 그리고 마이크로소프트는 미국 전역 2,000개 이상의 도시에 퍼져 있는 (블랙 라이브즈 매터’(Black Lives Matter) 시위가 절정에 달하고 나서 얼마 안 있어 경찰에 대한 안면 인식 기술 판매를 중단했다.
보스턴은 지난 24일 미국에서 얼굴 인식을 금지하는 가장 큰 도시 중 하나가 됐다. 같은 날, 디트로이트에 거주 중인 로버트 윌리엄스는 얼굴 인식 오류로 인해 범죄를 저질렀다고 잘못 체포되어 기소됐다. 안면인식 오류로 인해 기소된 사례로는 윌리엄스가 첫 번째다. 제임스 크레이그 디트로이트 경찰 서장은 29일 디트로이트가 사용하는 안면 인식 소프트웨어는 정확도가 4%에 불과하다고 말했다.
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com