사진만으로 범죄자 예측?…AI 편향성 논란 재점화
상태바
사진만으로 범죄자 예측?…AI 편향성 논란 재점화
  • 입력 2020-06-25 16:24
  • 댓글 0
이 기사를 공유합니다

미 해리스버그대 연구진, 안면인식으로 범죄성 예측 가능 주장
학계‧전문가 등 약 1700명 공개서한 서명…연구 논문 출판 반대
(사진=Shutterstock).
(사진=Shutterstock).

지난달 조지 플로이드 사망 사건 이후 안면인식에 대한 부정적인 여론이 날로 거세지는 가운데 한 미국 대학 연구진이 얼굴 사진만으로 범죄성을 예측할 수 있다고 주장하면서 인공지능(AI) 기술의 인종 편향성을 둘러싼 논란이 재점화되고 있다.

미국 해리스버그대학교 연구진이 안면인식 소프트웨어를 이용해 범죄성을 예측할 수 있다고 주장해 논란이 되고 있다고 24일(현지시간) BBC 등 외신이 전했다.

연구진은 자체 개발한 해당 소프트웨어가 범죄 예방에 도움을 주기 위해 고안된 것이라고 전했다. 전직 경찰관인 한 해리스버그대학교 연구원은 ”얼굴 이미지에서 범죄성을 식별해낸다면 법 집행기관과 다른 정보기관이 범죄 발생을 막는 데 크게 기여할 것“이라고 밝혔다. 또 연구진은 자신들의 소프트웨어가 인종적 편견 없이 작동한다고 주장했다.

그러나 해당 연구가 스프링거 네이쳐(Springer nature) 출판 서적에 실릴 것이라는 소식이 전해지자, 학계‧전문가 등 약 1700명은 이 연구가 공표되지 않도록 논문 철회를 요구하는 공개서한에 서명했다. 아울러 다른 학술 출판사들도 향후 유사한 연구결과물을 출판하는 일이 없도록 해달라고 촉구했다. 스프링거 네이처는 국제학술지인 '네이처'를 비롯해 다양한 연구‧교육서적을 출판하는 세계 저명 학술전문출판사다.

공개서한을 작성한 단체(‘Coalition for Critical Technology’)는 ”이 같은 주장은 부적절하고 신뢰성이 떨어지는 과학적 전제와 연구 및 방법에 근거하고 있다“고 비판했다. 

이에 스프링거 네이처 측은 이 연구 논문이 출판 허가를 받지 않았다고 전했다. 검토 끝에 지난 16일 이 논문에 대한 거부 결정을 내렸으며 공식적으로는 22일에 저자에게 결정 내용을 전달했다고 밝혔다.

해리스버그대학교는 관련 교수진의 요청으로 자체 보도자료를 내렸다. 대학 측은 학문의 자유를 지지하나 직원들의 연구가 대학 전체의 견해와 목표를 반드시 반영하는 것은 아니라며 선을 그었다.

(사진=Shutterstock).
(사진=Shutterstock).

이번 논란에 대해 케임브리지대학교의 한 컴퓨터공학 연구원은 ”범죄 예측 소프트웨어는 심각한 폐해를 낳을 수 있으며 연구원과 정책입안자가 이러한 문제를 진지하게 받아들이는 게 중요하다“고 덧붙였다. 또 ”특히 안면인식 소프트웨어를 비롯한 기계학습 알고리즘이 인종과 성별, 연령에 따른 편향성을 보이고 있다는 점은 수많은 연구를 통해 드러난 사실“임을 강조했다.

실제로 지난해 미 상무부 기술관리국 산하 미국표준기술연구소(NIST)의 연구보고서에 따르면 안면인식 소프트웨어 알고리즘 대다수가 안면인식 정확도에 있어 인종‧성‧연령별로 편차를 보이는 것으로 나타났다.

한편, 뉴욕타임스는 24일(현지시간) 미국 미시간주에서 안면인식 알고리즘 오류로 인해 로버트 윌리엄스라는 한 흑인 남성이 저지르지도 않은 범죄 혐의로 잘못 체포된 사건을 심층 보도했다. 이 사건은 안면인식 알고리즘의 결함과 이러한 기술을 사용하는 경찰의 업무 역량 부족이 빚어낸 사례로 AI의 편향성이 얼마나 위험한지를 보여주고 있다.

같은 날 미국 보스턴 시의회는 안면인식 금지안을 만장일치로 가결했다. 보스턴 시의회 의원들은 안면인식 기술의 인종 편향성 문제와 로버트 윌리엄스 체포 사건을 이번 결정의 배경으로 지목했다. 앞서 지난해 5월 샌프란시스코 시를 비롯한 일부 도시에서는 이미 안면인식 기술 사용을 금지한 바 있다.

[관련기사] ‘안면인식’과 ‘안면코딩’ 그리고 '딥페이크'

[관련기사] 미국표준기술연구소(NIST) “안면인식 시스템, 인종별 오류 편차 커”

기자 프로필

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사
유용한 리스티클
  • AI를 활용한 10가지 좋은 예
  • MIT 테크리뷰가 선정한 젊은 AI혁신가 7인
  • 포브스 선정 유망 AI기업 베스트 50
  • 신제품 개발을 개선하는 10가지 방법
  • 코로나19와 싸우는 테크기업 '베스트 15'
  • 딥마인드 엔지니어가 알려준 입사 지원 팁 5가지