개인정보 보호 SW ‘포크스’, 알고리즘을 빗겨가게 해
얼굴인식을 막아주는 인공지능(AI) 기술이 등장했다. 얼굴 사진에 덧입혀 놓으면 얼굴인식 알고리즘을 돌려도 누구인지 식별하지 못하게 하는 기술이다.
사진 빅데이터로 학습한 인공지능(AI) 모델로 사진만 보고도 누구인지 인식해 내는 얼굴인식 기술을 악용하면 개인프라이버시를 심각하게 침해할 수 있다는 우려가 커지고 있는 가운데 나온 기술이어서 관심이 모아진다.
더버지는 4일(현지시간) 미국 시카고대 샌드랩 연구진이 얼굴사진에 사용하면 얼굴인식 알고리즘을 돌려도 누구인지 인식하지 못하도록 해주는 소프트웨어 ‘포크스(Fawkes)’를 개발했다고 보도했다.
'포크스'는 영화로도 제작된 만화 ‘브이 포 벤데타’에 등장한 ‘가이 포크스’ 가면에서 이름을 빌렸다. 얼굴인식 시스템을 속이기 위해 인물 사진을 미묘하게 바꿔주는 기술이다. AI가 핵심 역할을 한다.
포크스는 사진을 ‘세밀하게’ 변경해 이미지를 탐지하는 모든 알고리즘이 사진을 완전히 다른 사람으로 인식하도록 한다. 사진에 ‘포크스' 처리를 하면 이미지에 보이지 않는 마스크를 씌우는 효과를 얻는다. 과학자들은 이를 '클로킹(cloaking)'이라고 명명했다. 얼굴인식 시스템의 기능을 상실하게 하는 것이다.
시카고대 개발팀에 따르면 마이크로소프트 ‘애저 페이스’, 아마존 ‘레코그니션’, 중국 거대 기술 기업인 메그비의 안면인식 서비스 ‘페이스++’에서 얼굴인식 회피율이 100%에 달했다.
지난 7월 윈도우용과 맥용으로 누구나 내려 받을 수 있게 출시했다. 지금까지 누적 다운로드 수는 10만건을 넘었다. 포크스로 사진을 처리하는 데는 수 분의 시간이 걸리며, 변경된 내용은 대부분 감지할 수 없다.
하지만 '포크스가 얼굴인식 AI를 무력화하는 대안이 될 수 있을까'라는 질문에는 신중을 기했다. 적용에 문제가 있다는 것이다. 얼굴인식이 사회 전반에 확산된 만큼 포크스 도입도 늘어야 한다는 얘기다.
안면인식 기업이 만든 데이터베이스가 이미 오래 전에 만들었기 때문에 과거 얼굴 정보는 임의로 삭제할 수 없다는 점도 걸림돌이다.
이에 대해서는 호안 톤 탓 클리어뷰AI 최고경영자도 "인터넷에는 ‘수정’되지 않은 사진이 수십억 장 쌓여 있고 포크스와 같은 기술을 규모에 맞게 완벽히 구현하기에는 너무 늦었다”고 언급했다.
반면 포크스 개발팀은 이 평가에 동의하지 않는다.
포크스 SW 개발에 참여한 벤 자오 시카고대 컴퓨터과학 교수는 “클리어뷰AI와 같은 회사가 수십억 장의 사진을 보유하고 있다고 주장하지만, 사용자와 일치하는 지 확인이 필요하다"면서 "클리어뷰AI가 공개적으로 접근할 수 있는 사진은 아주 적어 큰 의미가 없어 보인다"고 지적했다.
그는 “만약 사람들이 앞으로 클로킹 처리한 사진을 더 많이 내놓으면 위ᆞ변조된 이미지 양이 그렇지 않은 이미지보다 많아질 것”이라고 말했다.
다만 시카고대 포크스 개발팀은 얼굴인식을 제대로 방지하기 위해서는 포크스가 좀 더 광범위하게 공개돼야 한다는 점을 인정했다.
보안 문제로 웹이나 모바일 애플리케이션을 만들 계획이 없지만 페이스북과 같은 회사가 유사한 기술을 플랫폼에 통합할 것으로 예상하기도 했다.
벤 자오 교수는 “얼굴인식 방지기술을 통합하면 소셜미디어 회사에도 이익이 될 것”이라면서 "페이스북을 비롯한 소셜미디어 플랫폼이 이 기술을 도입하면 클리어뷰AI 같은 기업의 얼굴인식 서비스는 쓸모가 없어질 것"이라고 말했다.
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com