[In-Depth 리포트] 말많은 안면인식기술, 편향성 논쟁 넘어 글로벌 시장 형성할 것인가
상태바
[In-Depth 리포트] 말많은 안면인식기술, 편향성 논쟁 넘어 글로벌 시장 형성할 것인가
  • 입력 2020-10-15 17:44
  • 댓글 0
이 기사를 공유합니다

안면인식 기술 편향성 논란↑…규제 움직임도
안면인식 기술 도입·적용 위한 국가별 입장 '상이'
미국·영국·EU 등 안면인식 기술 재고‧개선 노력
중국 비롯 안면인식 기술 연구개발·활용 가속화
2020~2024년 글로벌 시장, 12% CAGR 성장 전망
(사진=셔터스톡).
(사진=셔터스톡).

전 세계적으로 안면인식 기술을 둘러싼 논쟁이 가속화되고 있는 가운데 코로나19 팬데믹이 장기화되면서 안면인식 기술을 바라보는 각국의 셈법이 복잡해졌다. 한쪽에서는 프라이버시 침해나 차별‧편견 조장을 이유로 규제를 강화해야 한다고 주장하는가 하면 다른 한쪽에서는 미래 발전을 위한 유망기술로 활용 영역을 넓혀가야 한다면서 기술 개발에 열을 올린다.

특히 최근에는 코로나19로 인한 비대면‧비접촉 문화 확산에 힘입어 무인시스템의 핵심기술이라고 할 수 있는 안면인식 기술 시장이 더욱 주목받고 있는 실정이다. 다양한 분야에서 안면인식 기술 활용이 날로 늘어감에 따라 21세기형 '빅브라더' 감시사회의 출현을 우려하는 목소리도 높아지고 있다.

 

◆ ‘안면인식’이 뭐길래…안면코딩‧얼굴검증과 뭐가 다를까

(사진=셔터스톡).
(사진=셔터스톡).

‘안면인식(facial recognition)’은 얼굴의 특징을 파악해 복수의 얼굴 이미지 데이터를 비교함으로써 단일 인물을 식별해내는 기술이다. 안면인식은 얼굴 표정을 인식해 감정을 측정하는 '안면코딩(facial coding)’과는 다르다. 또 기술 적용 대상의 명시적 동의를 필요로 하는 ‘얼굴검증(face verification)’과도 차이가 있다.

얼굴검증과 얼굴인식은 대상자의 얼굴을 스캔하고 이를 기존 데이터베이스의 이미지와 매칭해 신원을 알 수 있다는 점에서 공통점이 있다. 다만 얼굴검증에는 사용자의 명시적인 동의가 필요하다. 사용자는 그 대가로 은행 스마트폰 앱 등과 같은 서비스를 제공받을 수 있게 된다. 반면 얼굴인식의 경우 역에서 불특정 다수의 승객 얼굴을 스캔하거나 수배 중인 범죄자를 찾아내 당국에 알리는 등 명시적 동의 없이도 이용될 수 있다.

이렇듯 안면인식 기술은 국경 간 모니터링, 범죄 용의자 색출, 신원 관리 등 보안산업을 비롯해 송금‧결제 서비스와 같은 금융산업, 유통‧물류산업 등 광범위한 분야에서 사용될 수 있다. 뿐만 아니라 스마트시티와 스마트 모빌리티 등 여러 미래 산업 분야에서도 안면인식 솔루션 수요가 증가하고 있다.  

 

◆ 끊이지 않는 안면인식 기술 편향성 논란 언제까지

지난 5월 미국에서 촉발된 흑인남성 조지 플로이드의 사망 사건은 안면인식 기술의 편향성 논란에 불을 지폈다. 미국 경찰의 과잉 진압에 따른 조지 플로이드의 죽음으로 인종차별에 항의하는 시위가 확산되면서 안면인식 기술이 덩달아 화두에 올랐다.

(사진=셔터스톡).
(사진=셔터스톡).

인종 차별을 조장한다는 혐의를 받고 있는 안면인식 기술에 대한 부정적인 여론이 일자, 이를 의식한 IT 업계에서는 잇따라 안면인식 사업에 제동을 걸기 시작했다. IBM은 대규모 감시나 인종 프로파일링 등의 목적으로 사용될 수 있는 안면인식 소프트웨어의 제공 중단 의사를 밝혔다. 뒤를 이어 아마존과 마이크로소프트(MS) 등도 안면인식 사업에서 손을 떼며 안면인식 기술 규제 움직임에 힘을 실어줬다.

물론 이 같은 IT 대기업들의 행보에 기업들 모두가 한마음으로 동참한 것은 아니었다. 거대 기업들이 철수한 안면인식 시장의 빈자리를 노리는 후발 기업들에게는 오히려 기회인 셈이다. 일본 ‘NEC’와 호주 ‘아이옴니사이언트’, 스페인 ‘헤르타 시큐리티’ 등은 사법기관에 안면인식 기술 서비스를 계속 제공할 계획임을 밝혔다.

사실 안면인식 기술 편향성에 대한 비판은 오래전부터 제기돼 왔다. 지난해 미국 상무부 기술관리국 산하 미국표준기술연구소(NIST)는 안면인식 소프트웨어 알고리즘의 인종‧성‧연령별 편향성을 지적하는 연구보고서를 내놨다. 알고리즘에 따라 오류 편차는 있으나 최소 10배에서 최대 100배 차이를 보이기도 했다. 이 밖에 다수 연구에서도 마찬가지였다.

미국 위치토주립대 연구진은 안면인식 모델들이 백인과 비교해 흑인과 중동인, 라틴계 사람들에 대한 인식률이 훨씬 떨어진다는 사실을 확인했다. 미 콜로라도대 볼더캠퍼스 연구진도 여러 기업들이 제공하는 안면인식 서비스가 생물학적 성과 정체성이 일치하지 않는 ’비시스젠더(non-cisgender)‘를 인식하는 데 얼마나 오류가 많은지를 밝혀냈다.

 

◆ 색안경 낀 안면인식 시스템, 무엇이 문제인가

문제는 이 같은 안면인식 기술의 편향성으로 인해 억울한 피해자들이 나오고 있다는 점이다. 뉴욕타임스는 지난 6월 미국 미시간주에서 안면인식 알고리즘 오류로 인해 로버트 윌리엄스라는 흑인 남성이 저지르지도 않은 범죄 혐의로 잘못 체포된 사건을 심층 보도했다. 이 사건은 안면인식 알고리즘의 편향성이 얼마나 위험한지를 보여주고 있다.

최근 영국 BBC는 영국의 여권사진 오류 검사 프로그램의 편향성 관련 기사를 보도했다. BBC 조사에 따르면 온라인으로 여권사진 제출 시 피부 톤이 검은 흑인 여성의 사진은 백인 남성의 사진보다 영국 여권 규정에 부적합하다는 판정을 받을 가능성이 두 배 이상 높았다. 영국 내무부는 신속한 여권 신청‧발급 절차를 위해 자동 시스템을 도입했으나 실상은 인종차별을 낳고 있다는 지적이다.

해당 차트는 영국의 여권사진 오류 확인 자동 검사 시스템에서 여성과 흑인의 사진이 품질 점수가 낮아 영국 여권 규정에 대한 부적합 판정을 받을 가능성이 높다는 것을 보여준다. (사진=BBC research).
차트는 영국의 여권사진 오류 확인 자동 검사 시스템에서 여성과 흑인의 사진이 품질 점수가 낮아 영국 여권 규정에 대한 부적합 판정을 받을 가능성이 높다는 것을 보여준다. (사진=BBC research).

또 미국 안면인식 스타트업인 클리어뷰AI(Clearview AI)는 미국 일리노이주에서 생체정보보호법(BIPA) 위반으로 집단소송을 당하기도 했다. 지난 5월에는 미국시민자유연합(ACLU)이 일리노이주에서 사생활 보호 등과 관련해 주 법률 위반을 들어 클리어뷰AI를 상대로 소송을 제기했다. 클리어뷰AI는 안면인식 시스템 구축을 위해 소셜미디어와 웹에서 수십억 개의 이미지를 사진 속 인물의 동의 없이 무단으로 스크랩하는 관행이 언론을 통해 밝혀진 바 있다.

프라이버시 침해 논란 속에 캐나다가 지난 2월 클리어뷰AI에 대한 조사에 본격 착수한 데 이어 영국과 호주도 공동으로 조사 계획을 발표했다. 이에 클리어뷰AI 측은 캐나다를 비롯해 영국과 호주에서 안면인식 서비스 제공 중단 의사를 밝힌 상황이다.

이렇듯 단편적인 조사와 사례들만 봐도 안면감지‧인식 기술의 오남용이 얼마나 부당한 결과를 불러오는지를 알 수 있다. 아울러 일각에서는 기술 사용에 따른 편리함이나 유용함보다 동의 없이 감시를 받는 생활에 불편해하고 프라이버시권을 중요하게 여긴다는 사실도 드러났다.

 

◆ 안면인식 기술을 대하는 자세…국가별 ’온도차‘

전 세계 국가들의 입장을 살펴보면 안면인식 기술에 대한 온도차가 느껴진다. 미국과 영국 등에서는 안면인식 기술을 재고‧개선하려는 움직임이 활발한 데 비해, 중국을 포함한 여러 국가는 코로나19 방역 등의 명목 하에 안면인식 기술 연구 개발에 박차를 가하고 있다.

(사진=셔터스톡).
(사진=셔터스톡).

예를 들어 미국에서는 지난 6월 미국 상‧하의원 민주당 의원 4명이 연방법 집행기관의 안면인식 기술 사용을 금지하는 ’안면인식‧바이오인식 기술 모라토리엄 법‘ 안을 발의했다. 안면인식 외에도 음성인식과 보행인식 등도 포괄하는 법안이다. 법안 채택 시 미국 내 연방 기관이나 공무원은 바이오인식 감시 기술의 취득‧보유‧접근‧사용하는 것이 불법으로 금지된다. 의회가 특정한 상황에서 이를 명시적으로 승인하는 별도의 법안을 통과하지 않는 한 말이다.

그동안 안면인식 문제를 다루는 미 연방법의 부재로 보스턴과 샌프란시스코 등 일부 지방정부는 자체적으로 안면인식 기술 사용 규제를 위한 조치를 취해왔다. 특히 오리건주 포틀랜드 시의회는 최근 모든 기업·공공기관의 안면인식 기술 상용화를 전면 금지하는 법안을 통과시켰다. 월스트리트저널(WSJ)은 미국 51개 주 가운데 가장 강력한 안면인식 사용 금지 법안이라고 보도했다.

영국의 경우 항소법원이 지난 8월 경찰의 자동안면인식시스템(AFR Locate) 사용에 대한 위법성을 인정했다. 영국 경찰이 안면인식 기술 채택으로 인권‧평등 및 데이터 보호법을 위반했다는 판결이다. 이는 지난해 9월 고등법원의 판결을 완전히 뒤집는 결정으로 법원에서 안면인식 기술 사용과 관련해 내린 세계 최초의 법적 조치라고 외신들은 보도했다.  

(사진=Euobserver).
유럽의 안면인식 기술 사용 현황 지도. (사진=Euobserver).

유럽연합(EU) 역시 안면인식 기술에는 비교적 신중한 입장이다. EU 집행위원회는 올해 초 안면인식 기술에 제동을 거는 규정 마련을 고려하고 있다고 밝혔다. 주요 외신들에 따르면 EU는 향후 공공장소에서 안면인식 기술 사용을 최대 5년간 금지하는 방안을 검토 중이다. 안면인식 기술이 적용된 제품을 상용화하기에 앞서 알고리즘을 파악·평가하겠다는 취지다.

하지만 안면인식 기술이 이미 대다수의 유럽지역에서 사용되고 있는 가운데 독일과 프랑스 등 주요 회원국들의 우려와 반발도 적잖았다. 이후 EU는 해당 계획을 철회하는 듯 했으나 최근 다시 모든 선택 가능성을 열어 두었다.  EU는 일반데이터보호규정(GDPR) 등 기존 법제를 면밀히 분석하겠다고 밝히면서, 공공장소에서의 안면인식 기술에 대한 잠정적인 금지 조치를 배제하지 않은 채 여전히 검토하고 있는 것으로 알려졌다.

반면 중국은 안면인식 기술 시장 선점에 앞장서고 있는 국가다. 정부 주도로 중국 대도시에서는 안면인식 기반 결제 시스템을 비롯한 금융서비스와 치안‧공공안전 등 다양한 분야에 안면인식 기술이 활용되고 있다. 아울러 감시카메라(CCTV)의 천국으로 불릴 만큼 세계에서 가장 악명 높은 ‘감시국가’로도 손꼽힌다. 중국의 정교한 감시 기술 네트워크 구축을 통한 통제 강화는 인권보호단체들의 비난을 사고 있다.

이 밖에 싱가포르도 안면인식이나 안면검증 기술 도입에 적극적이다. 지난 달 BBC 등 외신은 싱가포르가 세계 최초로 얼굴검증 기술 기반 국가 신원 확인 시스템을 도입할 계획이라고 보도했다. 국가 차원에서는 신원 확인 시스템에 얼굴검증 기술을 채택‧적용하는 첫 번째 국가가 될 것이라는 게 싱가포르 측의 설명이다.  

 

◆ 판도라의 상자는 이미 열렸다…미래에 득(得)일까 실(失)일까

안면인식 기술은 이미 우리의 일상생활 곳곳에 알게 모르게 스며들어와 있다. 지난달 비즈니스와이어(BusinessWire)의 보도에 따르면 시장조사전문기관인 테크나비오(Technavio)는 글로벌 안면인식 시장이 2020~2024년 기간 동안 약 33억 5000만 달러(3조 8408억원) 규모의 성장을 보일 것으로 내다봤다. 아울러 동 기간에 약 12%의 연평균복합성장률(CAGR)을 기록할 것이라고 추산했다.

코로나19 팬데믹의 장기화로 많은 산업이 수요 감소 등 어려움을 겪고 있으나, 일부 산업은 여전히 건재함을 과시하면서 위기를 새로운 성장 기회로 삼고 있다. 특히 코로나라는 새로운 변수와 함께 안면인식 기술 기반의 비접촉‧비대면 시스템이 주목받으면서 안면인식 시장의 미래는 오히려 밝다는 전망이 나오고 있다.

최근 시장조사전문기관인 테크나비오(Technavio)가 글로벌 안면인식 시장 2020~2024년 전망을 담은 시장조사 보고서를 발표했다. 해당 사진은 비즈니스와이어(BusinessWire)에 게재된 그래픽. (사진 : Business Wire).
최근 시장조사전문기관인 테크나비오(Technavio)가 글로벌 안면인식 시장 2020~2024년 전망을 담은 시장조사 보고서를 발표했다. 해당 사진은 비즈니스와이어(BusinessWire)에 게재된 그래픽. (사진 : Business Wire).

물론 안면인식 기술을 잘 활용할 경우 코로나19 확산 방지뿐만 아니라 중범죄자 색출 등 여러가지 문제 해결에 기여할 수 있다. 다만 기술의 정확도나 편향성, 사생활 침해 등의 과제가 해결되지 않는 한 앞으로도 안면인식 기술을 둘러싼 논쟁은 더욱 치열해질 것으로 보인다. 또 끊임없는 문제 제기와 더불어 안면인식 기술의 문제점을 풀어가려는 움직임도 본격화되고 있다.

안면 감지‧인식 시스템의 정확도는 부분적으로 훈련 데이터의 다양성에 따라 결정될 수 있다. 이를 위해 시스템은 각기 다른 지역사회에서 공정하게 성능 테스트가 이뤄져야 하나 현실적으로 쉽지 않다. 또 데이터를 분류하고 기술의 성능을 측정하는 방법에 있어 차별이 내재될 수도 있다. 인종‧민족‧성별 그룹 분류를 위해 사용되는 라벨은 문화적 규범을 반영하고 있는데, 이로 인해 자동화된 시스템에 차별과 편견이 구축되기 쉽다는 이야기다. 일부 전문가는 시스템의 편향성은 개발자들의 부주의에 따른 결과라고 지적한다.

이에 안면인식 시스템의 결함을 보완할 해결책도 등장했다. 미 프린스턴대 연구진은 지난 8월 안면인식 시스템 훈련에 사용하는 데이터의 편향을 감지·완화하는 도구인 ‘리바이스(REVISE, REvealing VIsual biaSEs)’를 개발했다. 연구진은 수집되는 데이터세트 이미지가 대부분 미국이나 유럽국가에 지리적으로 편중돼 있다며 데이터 수집 대상을 다양화할 필요가 있다고 강조했다.

포크스를 사용해 원본 사진과 위ᆞ변조한 사진 비교. (사진=시카고대 샌드랩)
AI 기술을 이용해 얼굴 사진에 안면인식 알고리즘을 적용해도 누구인지 인식하지 못하도록 무력화시키는 소프트웨어 ‘포크스(Fawkes)’. 포크스를 사용해 원본 사진과 위ᆞ변조한 사진 비교. (사진=시카고대 샌드랩).

최근에는 프라이버시 보호를 위해 안면인식을 막아주는 인공지능(AI) 기술까지 나왔다. 미 시카고대 연구진이 AI 기술을 이용해 얼굴 사진에 안면인식 알고리즘을 적용해도 누구인지 인식하지 못하도록 무력화시키는 소프트웨어 ‘포크스(Fawkes)’를 선보인 것이다. 연구진에 따르면 해당 기술은 마이크로소프트와 아마존 등 여러 IT 대기업의 안면인식 서비스에서 높은 안면인식 회피율을 보였다.

물론 현재로서 이러한 안면인식 기술의 폐해를 방지하는 시스템을 상용화해 효과를 기대하기에는 아직 갈 길이 멀다. 하지만 안면인식 기술의 효용성을 고려하는 동시에 효과적으로 이를 보완‧규제해 부작용을 최소화하고자 하는 다양한 시도는 앞으로도 계속 이어질 전망이다.

기자 프로필

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사
유용한 리스티클
  • AI 재현 기술, 로마 황제 얼굴을 살려냈다
  • EU가 뽑은 인공지능(AI)ㆍ로봇 기술 9가지
  • 차세대 콘텐츠에 활용할 수 있는 인공지능(AI) 기술 6가지
  • "당신의 외모는 몇 점?"…AI가 평가하는 내 얼굴은?
  • 코로나19 대유행 시대, 학교가 갖춰야 할 7가지 필수품은?
  • 비대면 시대, XR(확장현실)기술 사용 국내외 건축ᆞ부동산 기업 7