'안면인식'과 '딥페이크'를 둘러싼 논쟁이 심화되고 있다. 한쪽에서는 개인 프라이버시 침해를 이유로 제약을 가해야 한다고 주장하는 반면 다른 한쪽에서는 미래를 위한 유망기술로 활용을 넓혀가야 한다고 주장한다.
여기에 인간의 얼굴 표정으로 감정을 측정하는 '안면코딩' 기술까지 등장해 관심을 끌기 시작했다.
이처럼 비언어적 단서에서 인간의 감정을 감지‧학습하는 감정 AI(Emotion AI) 또는 감성 컴퓨팅(Affective Computing) 신기술이 등장할 정도로 첨단 기술은 비약적으로 발전하고 있다. 하지만 이들 기술로 인해 21세기형 '빅브라더'가 출현할 것이라는 우려의 목소리도 높다.
이들 기술의 공통점은 인간의 얼굴을 연구하는 AI 기술이라는 점이다. 그렇다면 이들은 어떻게 다른지, 어떻게 활용할 수 있고, 어떤 점이 우려되는지 등을 짚어보았다.
◈ 안면인식(Facial Recognition)
얼굴 특징을 파악해 복수의 얼굴 이미지 데이터를 비교함으로써 단일 인물을 식별해내는 기술이다.
국경 간 모니터링, 범죄 용의자 색출, 신원 관리, 문서 확인 등 보안산업과 송금‧결제 서비스와 같은 금융산업, 유통‧물류산업에서 유용하게 사용할 수 있다.
뿐만 아니라 스마트시티와 스마트 모빌리티 등 여러 미래 산업 분야에서도 안면인식 솔루션에 대한 필요성이 증가하고 있다. 안면인식 기술 응용범위는 어디까지 확장될지 알 수 없을 정도로 무궁무진하다.
다만 지난달 미국에서 촉발된 조지 플로이드 사망 사건으로 인해 부정적인 여론이 거세지는 형국이다. IMB, 아마존, 마이크로소프트(MS) 등 IT 대기업이 잇따라 안면인식 사업에 제동을 걸었다. 인종 차별을 조장한다는 비난도 받고 있다.
사실 안면인식 기술의 인종 편향성에 대한 지적은 수년 전부터 제기됐다. 지난해 미 상무부 기술관리국 산하 미국표준기술연구소(NIST)의 연구보고서에 따르면 안면인식 소프트웨어 알고리즘 대다수가 안면인식 정확도에 있어 인종에 따라 편차를 보이는 것으로 나타났다.
반면 중국을 중심으로 여러 국가에서는 코로나19 방역을 위하 안면인식 기술을 적극 도입하거나 연구개발에 박차를 가하고 있다. 코로나19 팬데믹으로 비대면‧비접촉화 추세가 이어지면서 안면인식 기술을 이용한 제품과 서비스 수요는 계속 늘어날 전망이다.
지난해 7월 비즈니스와이어(BusinessWire) 보도에 따르면 글로벌 안면인식 시장 규모는 2019년 32억 달러에서 2024년 70억 달러로 증가해 16.6%의 연평균복합성장률(CAGR)을 기록할 전망이다.
한국정보보호산업협회(KISIA)는 2019년 조사 결과 국내 안면인식 시장이 2015년 869억원에서 2020년 1514억원으로 지속적인 성장세를 보일 것으로 예상했다.
◈ 안면코딩(Facial Coding)
얼굴 표정을 인식해 인간의 감정을 측정하는 과정이다. 인간의 얼굴 표정은 각기 다른 감정 반응을 나타내며 입꼬리와 눈썹처럼 안면 근육의 움직임에 따라 분류된다.
안면코딩용 컴퓨터 알고리즘은 입과 눈썹 같은 얼굴의 주요 특징을 추출해 각 부위의 움직임과 모양 등을 분석한다. 개인 얼굴에서 나타나는 얼굴 근육의 미세한 움직임을 파악해 이를 행복‧놀라움‧슬픔‧분노 등 감정을 전달하는 보편적인 얼굴 표정으로 해석해낼 수 있다. 또 이 과정에서 얼굴 표정이 드러나는 맥락도 중요하다.
아울러 얼굴 표정을 감지하기 위해서는 우선 얼굴의 위치를 인식할 수 있는 안면탐지(Facial Detection) 기술이 필요하다. 안면탐지 기술을 통한 얼굴 위치 인식은 좌표에 의해 생성된 단순한 경계박스(bounding box) 형태로 표시된다.
안면코딩과 같은 감정 감지 기술(emotion-detection technology)은 기업의 채용 면접이나 경찰의 범죄자 색출을 위해 사용될 수 있을 뿐 아니라 의료‧헬스케어, 교육, 게임‧엔터테인먼트, 마케팅, 광고‧미디어, 자동차 산업 등 다양한 분야에서 적용될 수 있을 것으로 보인다.
안면코딩은 얼굴 표정이 보편적이고 관련된 근육이 뇌와 직접 연결돼 있어 감정을 측정하는 데 있어 객관적인 방법이라는 평가도 있다.
그러나 AI 윤리 전문가들은 이 같은 감정 감지 기술 사용에 대해 우려의 목소리를 높이고 있다. 지난해 12월 미국 뉴욕대학교의 AI 나우 연구소(AI Now Institute)는 이 분야의 기반이 취약하다는 점을 들어 감정 감지 기술 사용을 제한하는 법을 마련하도록 촉구했다. 또 이 같은 기술이 정확한 결과를 도출해 낼 수 있는지에 대한 과학적 합의가 아직은 부족하다고 지적했다.
감정 감지 기술 시장 규모는 2019년 기준 약 216억 달러로 추산된다. 그 시장 가치는 2024년까지 두 배 이상 증가해 약 560억 달러에 달할 것으로 전망된다.
◈ 딥페이크(Deepfake)
딥러닝(deep learning)과 페이크(fake)의 합성어다. AI 기술 기반의 알고리즘을 활용해 이미지나 동영상을 편집‧조작하는 기술이다. 온라인에 무료로 제공된 오픈소스코드와 머신러닝(ML) 알고리즘만 사용하면 누구나 만들 수 있다.
실제로 사이버보안 전문업체 ‘딥트레이스랩스(Deeptrace Labs)’가 지난해 10월 발표한 보고서에 따르면 온라인에 게재된 딥페이크의 수가 지난 7개월간 약 1만5000개로 집계되며 빠르게 증가하고 있는 것으로 나타났다.
현재 딥페이크 기술은 영화와 음반 제작 등 엔터테인먼트 분야에서 주로 활용되고 있다. 딥페이크 기술을 이용하면 새롭게 촬영할 필요 없이 기존의 자료를 편집‧합성함으로써 또 하나의 새로운 영상물을 만들어낼 수 있기 때문에 제작비용이 크게 절감된다는 장점이 있다.
향후 게임과 스포츠 등 더 광범위한 영역으로 확대 적용될 수 있으나 현재로서는 SNS와 결합해 가짜 콘텐츠 양산으로 사회적 혼란을 초래한다는 부정적인 인식이 더 강하다.
특히 누구나 쉽게 제작이 가능한 만큼 음란물이나 가짜 뉴스 제작 등 딥페이크를 악용하는 사례가 늘어나고 있다. 특히 포르노 영상에 유명인은 물론 일반인의 얼굴까지 합성해 디지털 성범죄로 이어지고 있다. 이에 전 세계적으로 딥페이크 기술의 오남용을 규제하려는 노력이 곳곳에서 펼쳐지고 있는데 한국도 예외는 아니다.
국내에서는 지난 3월 국회 본회의에서 '성폭력범죄의 처벌 등에 관한 특례법(성폭력처벌법)‘ 개정안이 통과됐다. 오는 25일부터 AI 기술을 이용해 '딥페이크 포르노'를 제작·반포하면 5년 이하의 징역 또는 5000만원 이하 벌금에 처한다는 규정이다.
더불어 페이스북을 비롯한 소셜미디어 기업들의 AI를 활용한 딥페이크 퇴치 노력도 눈길을 끈다. 페이스북은 AI 딥페이크 탐지 기술 개발 촉진을 위해 지난해 12월부터 지난 3월 31일까지 마이크로소프트(MS)와 아마존웹서비스(AWS) 등과 협업해 개최한 ‘딥페이크 탐지 챌린지(DFDC)’ 결과를 공유한 바 있다. 또 그 대회를 통해 확보한 10만개 분량의 데이터베이스(DB)를 공개하기도 했다.
[관련기사] 중국과학원, 스케치를 초상화로 변환해주는 '딥페이스드로잉' 기술 개발
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com