인스타그램이 사용자 연령 검증을 위해 안면 인식 인공지능(AI) 기술을 테스트하고 있는 것으로 나타나 우려가 제기되고 있다. 워싱턴포스트는 24일 인스타그램이 안면 스캔 인공지능 도구, 친구 확인, ID 업로드 등 서비스를 이용하는 사람들의 나이를 확인하는 새로운 방법을 테스트하고 있는 것으로 나타났다고 보도했다.
이 도구는 어린이들을 인기 있는 사진 및 비디오 공유 앱으로부터 차단하는 데는 아직 사용되지 않고 있으며 사용자가 18세 이상인지 확인하는 데만 적용되고 있다. 그동안 사용자의 개인 정보 보호와 관련해 인스타그램 모기업인 메타의 확인 기록, 특히 10대에 대한 안면 스캔 AI의 사용에 대한 우려가 제기된 바 있다.
메타는 사람들의 나이를 확인하는 데 사용된 기술이 사람의 신원을 인식할 수 없으며 단지 나이만 인식할 수 있다고 강조했다. 메타는 연령 검증이 완료되면 스캔을 수행하기 위해 제휴한 AI 하청업체 요티(Yoti)가 영상을 삭제할 예정이라고 밝혔다.
페이스북과 인스타그램을 보유하고 있는 메타는 누군가가 인스타그램에서 나이를 18세 이하를 18세 이상으로 수정하려고 하면 이들 방법 중 하나를 사용해 나이를 확인해야 한다고 설명했다. 메타는 일부 10대들에게 자사 제품, 특히 인스타그램의 부정적인 영향과 관련해 비판을 받고 있는 상황이다.
다른 소셜미디어 플랫폼과 마찬가지로 인스타그램을 사용하려면 나이가 13세 이상이어야 한다. 그러나 어떤 경우에는 연령을 속이거나 혹은 부모에게 맡겨 이 규제를 우회한다. 13세에서 17세 사이의 청소년들은 계정에 추가적인 제한이 있다. 예를 들어 친구가 아닌 성인은 이들이 18세가 될 때까지 메시지를 보낼 수 없다.
메타의 데이터 관리 및 공공 정책 담당 이사 에릭 핀클은 “당사는 사람들의 연령을 확인하고 가장 잘 작동하는 것을 확인할 수 있는 다양한 옵션을 제공하고 있다”고 설명했다. 안면 스캔 옵션을 사용하려면 셀카 동영상을 업로드해야 한다. 비디오는 런던의 스타트업 요티에 보내지고, 요티는 사람들의 얼굴 특징을 이용해 연령을 추정한다.
핀클 이사는 메타가 AI 시스템을 제대로 학습하는 데 필요한 13세 미만의 연령대에 대한 데이터를 제대로 보유하고 있지 않아 아직 이 기술을 사용해 13세 미만의 연령대를 가려내지는 않고 있다고 설명했다. 그러나 요티는 사용자가 인스타그램을 사용하기에 너무 나이가 어리다고 추정하게 되면 나이를 증명하거나 계정을 삭제하라는 요청을 하게 될 것이라고 그는 덧붙였다. 요티의 최고 정책 및 규제 책임자인 줄리 더슨은 “그 누구의 신원도 인식하지 못한다”라며 “영상은 검증 후 즉시 삭제된다”고 밝혔다.
요티는 영국과 유럽에서 어린이들이 오프라인 상점에서 주류 및 기타 접근 제한 상품뿐만 아니라 성인용 음란물, 데이트 앱 및 기타 인터넷 콘텐츠에 접근하지 못하도록 연령을 검증하기 위한 강도 높은 기술을 개발하는 바이오메트릭 기업 중 하나다. 요티는 자체 체크아웃 카운터에서 안면 스캔 카메라를 활용해 영국의 대형 슈퍼마켓과 협업해 왔다. 또 청소년 중심의 프랑스어 동영상 채팅룸 앱인 유보(Yubo)의 사용자 연령 확인 서비스도 시작했다.
다라흐 머레이 에섹스 대학 법대 교수는 인스타그램이 지원자의 안면 영상을 삭제하고 개인의 얼굴을 신원 인식에 사용하지 않겠다는 약속을 지킬 것으로 예상하지만 안면 스캔 기능을 정상화하면 다른 사회적 우려가 제기될 수 있다고 지적했다. 머레이 교수는 “나이나 성별과 같은 것을 기준으로 식별하려는 것은 드러난 편견이 많기 때문에 문제가 된다”며 “기본적으로 고정관념을 갖고 보게 되지만 사람은 매우 다양하다”고 설명했다.
미국의 한 에이전시가 2019년에 실시한 연구에 따르면 안면 인식 기술은 인종, 성별 또는 연령에 따라 종종 공평하지 않게 실행된다는 사실이 드러났다. 미국 국립표준기술원은 연소자 및 고령 인원에 대한 오차율이 더 높다는 것을 밝혀냈다. 아직 연령별 안면 분석에 대한 시험결과는 없지만 요티가 발표한 분석 결과는 비슷한 추세를 보이고 있고 여성과 피부색이 어두운 사람들에 대한 오차율이 약간 높았다.
메타의 안면 스캔 움직임은 일부 기술 경쟁업체들이 하고 있는 것과 동떨어져 있다. 마이크로소프트는 지난 22일 “고정관념, 차별 또는 불공정한 서비스 거부”에 대한 우려를 제기하면서 정서적 상태 및 연령, 성별과 같은 신원 특성을 ‘유추하는 것’을 목적으로 하는 안면 분석 도구를 제공하는 것을 중단하겠다고 밝혔다.
메타는 지난해 페이스북의 안면 인식 시스템을 중지하고 10억 명이 넘는 사람들의 안면 사진을 법원이나 규제 기관으로부터 수년간의 조사를 받은 후 삭제할 예정이라고 발표한 바 있다. 그러나 당시 안면 인식의 상업적 사용을 대중화하는 데 도움이 된 소셜미디어 사진의 광범위한 태깅에서 ‘보다 좁은 형태의 개인 인증’으로 전환하면서 얼굴 분석을 완전히 포기하지는 않을 것임을 시사했었다.
AI타임스 이한선 객원 기자 griffin12@gmail.com
