[이정태의 뒤뚱뒤뚱] 8분46초의 편견과 안면인식 기술이라는 권력
상태바
[이정태의 뒤뚱뒤뚱] 8분46초의 편견과 안면인식 기술이라는 권력
  • 입력 2020-06-16 16:44
  • 댓글 0
이 기사를 공유합니다

8분 46초. BLM(Black Lives Matter). 경찰의 부당한 폭력으로 인한 흑인(조지 플로이드) 사망으로 미국 전역에서 항의 시위로 이어졌다. 일상적인 일처럼, 8분 46초 동안 무릎으로 목을 눌러 사람을 죽인 그 뿌리 깊은 편견과 증오가 무서울 따름이다.

미국 내에서 조지 플로이드 사건으로 인해 경찰 개혁 요구가 나오고 있는 가운데 지난 주 IBM이 대규모 감시나 인종 프로파일링 등의 목적으로 사용될 수 있는 안면인식 소프트웨어 제공 중단 의사를 밝혔다.

아르빈드 크리슈나 IBM 최고경영자(CEO)는 미국 의회에 보낸 서한에서 법 집행에 사용되는 인공지능(AI) 시스템과 관련해 '편향성' 여부를 확인할 필요하다고 말했다.

연이어 아마존과 마이크로소프트도 경찰에게 안면인식기술을 제공하지 않겠다고 선언했다. 마이크로소프트 브래드 스미스 사장도 이 기술에 대한 사회적 통제의 필요성을 인정했다.

안면인식기술의 정확성, 공정성 등의 치명적인 문제점에 대해서는 계속 논란이 되어온 게 사실이다. 2014년 9월 미국 콜로라도주 덴버에 사는 스티브 탤리는 새벽녘에 집에 잠을 자던 중에 경찰에 폭행을 당하며 체포당했다. 두 건의 은행 강도 용의자로 지목되었던 것이다. 범행을 완전히 부인했던 탤리를 FBI전문가가 안면인식소프트웨어로 CCTV에 찍인 영상을 탤리의 사진과 비교해서 결론을 내린 후에 일어난 일이었다. 탤리가 확실한 알리바이가 있음에도 불구하고 완전하게 혐의를 벗어나는 데 1년이 넘게 걸렸다. 그 사이에 그는 일자리와 집, 아이들의 면접권까지 잃게 되는 고통을 받게 되었다.
 

안면인식기술의 정확성과

공정성에 대한 논란 끊이지 않아

AI전문가 해나 프라이(Hannah Fry)가 자신의 저서 “안녕, 인간”에서 안면인식프로그램의 위험에 대해 문제제기하면서 내놓은 실제 사례다.
호주 애들레이드대 테건 루커스교수의 연구 결과에 따르면, 탤리처럼 두 사람의 얼굴이 정확하게 일치할 확률은 1조분의 1이 안된다. 몇 만 년 만에 한 번 일어날까 말까하는 일이 실제로 일어난 것이다. 닮은 꼴인 도플갱어가 있긴 하지만 그것을 동일인이라고 해석해서는 안된다는 점은 명확하다.
또다른 딜레마는 데이터베이스를 많이 모을수록 정확도가 높아질 것이라고 생각하지만 안면인식 알고리즘은 그렇지 않다. 유명인사 5천명의 영상을 식별한 구글의 안면인식기술 ‘페이스넷’의 정확도는 99.6%가 나왔다. 엄청난 정확도를 보였다.

그런데 영국 경찰은 범죄자 사진 1900만장을, 미국 FBI는 4억 1천1백만장을 데이터베이스화 했는데, 그런 정확도는 유지되지 않는다. 얼굴의 수가 많아질수록 얼굴을 잘못 인식할 확률도 높아지기 때문이라고 한다. 2015년 겨우(?) 100만장 얼굴 사진을 가지고 알고리즘 테스트를 한 메가페이스 대회에서 알고리즘의 정확도는 75%에 불과했다.

2017년 영국 카디프에서 열린 WEFA 챔피언리그 결승전에서 경찰이 감시카메라를 통한 안면인식프로그램으로 범죄용의자를 찾아냈다. 결승전 당일 찾아낸 범죄용의자 2470명 중 2297명이 잘못된 것으로 판정되기도 했다.

미국 상무부 미국표준기술연구소(NIST)의 189개 안면인식 소프트웨어 알고리즘에 대한 연구조사 결과 대부분 안면인식 정확도에 있어 인종·연령·성별에 따라 편차를 보인다고 밝혔다. 백인에 비해 아시아인과 아프리카계 미국인에 대한 긍정 오류율(소프트웨어가 서로 다른 두 인물 사진을 보고 동일한 인물로 잘못 판단한 것)이 더 높게 나타났다. 오류율이 최소 10배에서 최대 100배 차이를 보였다.

 

인권 감수성이 허약한 권력과

기술은 시민이 통제해야

IBM은 이러한 데이터 편향성를 해결하기 위해서 얼굴의 다양성(Diversity in Face: DiF)이라는 데이터셋을 이미 공개한 바 있다. IBM은 얼굴의 대칭, 대조, 포즈, 감정표현, 얼굴의 속성, 너비 등 내재적인 다양성과 전 세계 다양한 인종, 성별, 연령대의 얼굴 특징을 반영해 100만개의 데이터셋을 만들었다. IBM 리서치 연구소는 안면인식기술의 문제점을 무겁게 인식하고 공정성과 정확성을 노력해왔다. 그럼에도 불구하고, IBM CEO는 안면인식 사업에서 완전히 손을 떼기로 한 것이다.

‘킬러로봇’ 확산 반대 단체의 리더 중 한 사람인 영국 셰필드 대학 AI 로봇공학부 노엘 샤키 교수는 “지금까지 개발된 AI 알고리즘은 인간들을 상대로 편견만 더 부추겼다”고 평가했다. 이어 그는 “신약 개발과 동일한 엄격한 테스트를 AI 알고리즘 개발에도 적용할 것”을 주장한다.

물론 과도한 주장이라고 치부할 수도 있겠지만, 감시 통제 사회가 아닌 열린 사회로 더 나아가기 위해서는 귀 기울여야 할 비판이다. 권력은 기술을 필요로 하고, 기술은 권력을 필요로 한다. 일종의 버릴 수 없는 속성이다. 인권 감수성이 허약한 권력과 기술은 시민들이 통제해야 한다. IBM은 그 역사를 받아들였다.

[FOCUS] 기업이 AI로 성과 얻는 10가지 방법

[칼럼] 전자인격과 인간의 조건

 

이정태 위원
이정태 위원 mica1028@aitimes.com 다른기사 보기
기자 프로필
이정태 위원
이정태 위원 mica1028@aitimes.com 다른기사 보기


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사
유용한 리스티클
  • AI를 활용한 10가지 좋은 예
  • MIT 테크리뷰가 선정한 젊은 AI혁신가 7인
  • 포브스 선정 유망 AI기업 베스트 50
  • 신제품 개발을 개선하는 10가지 방법
  • 코로나19와 싸우는 테크기업 '베스트 15'
  • 딥마인드 엔지니어가 알려준 입사 지원 팁 5가지