페이스북, AI 활용 13세 미만 이용자 거짓 정보 가입 찾아내는 방식 도입
인스타그램, 18세 미만 사용자 계정 팔로윙 안된 성인 메시지 못받게 해
셧다운제 부적격 이용자 잡기 위해 중국 텐센트 안면인식기술활용
성인 위조 사례 다수 발생해 정확도 떨어지는 경우도 있어
미성년자 이용자를 가려내기 위한 방안으로 AI 기술을 도입하는 사례가 늘고 있다.
'위쳇'을 만든 중국 기업 텐센트(Tencent)는 2018년 '왕자영요'(王者荣耀) 게임에 안면인식 검증 과정을 도입했다. 최근 페이스북, 인스타그램 등에서도 청소년이 부적절한 콘텐츠 시청을 하는 것을 막기 위해 인공지능(AI) 등 최신 기술을 도입하는 행보를 이어가고 있다.
기술 언론 매체 툴박스(Toolbox)는 페이스북이 인공지능(AI)를 활용해 유해 정보로부터 10대 보호에 나섰다고 2일 밝혔다. 페이스북은 13세 미만 이용자가 가입 시 거짓으로 개인정보를 입력하는 등 ‘부적격 이용자’가 많은 점을 감안, 이를 막기 위해 AI로 주변 팔로워들의 연령, 게시물로 나이를 유추하는 방식을 도입할 것이라고 발표했다.
인스타그램도 18세 미만의 사용자로 분류된 계정일 경우, 팔로우하지 않는 성인의 메시지를 받지 않도록 했다. 또 과거 의심스러운 행동을 보인 성인 소유 계정에는 게시물이 표시되지 않도록 했다.
하지만 AI가 과연 어떤 데이터를 학습해 무슨 기준으로 나이를 분류할 지, 그 정확성에 관해 이용자 연령 파악이 어렵다는 점을 페이스북도 인지하고 있는 것으로 알려졌다.
페이스북은 이런 문제를 줄이기 위해 온라인 안전, 아동 발달, 아동과 청소년 미디어, 개인 정보 보호, 청소년 발달, 심리학과 육아 전문가 그룹과 정기적으로 상호 작용하고 있으며, 국회의원 등 공무원과도 협력하고 있다고 밝혔다.
온라인 환경에서는 자신을 있는 그대로 드러내지 않고도 얼마든지 사실과 다르게 꾸미고, 표현하는 것이 가능하기 때문에 AI가 100% 정확도를 보이며, 미성년자를 가려내긴 힘들다.
나이에 맞지 않게 조숙한 취향을 가진 청소년이나, 어린 감성을 지닌 성인도 공존할 수 있고, 인스타그램의 경우, 팔로우 여부에 따라 공개 범위가 달라질 수 있기 때문이다.
또한, 한국, 중국 등에서는 게임 이용자가 청소년일 경우, 유해 정보 보호와 과몰입 등으로 인한 게임 중독 방지를 위해 통금 시간인 ‘셧다운제’를 운영하고 있다.
셧다운제는 야간에 게임을 플레이하는 미성년자를 강제로 로그아웃시키는 시스템이다.
기존에는 성인만 접속할 수 있게 성인 인증을 거치는 방법도 도입했지만 부모의 개인정보로 만든 아이디로 접속해 밤늦게까지 게임을 하는 것이 가능하다는 문제점이 발견됐다.
| 한∙중 미성년자 게임 셧다운제 비교 | ||
| 구분 | 한국(강제 셧다운제) | 중국 |
| 근거법령 |
청소년보호법 (제26조) |
중화인민공화국미성년자보호법 (미성년자인터넷보호조례 제23조) |
| 소관부처 | 여성가족부 | 국가인터넷정보판공실 |
| 규제내용 |
오전 0시-오전 6시 |
오전 0시-오전 8시 |
| 규제방식 | 국가 일률적 강제 | 강력한 국가 일률적 강제 |
| 적용대상 | 만 16세 미만 청소년 | 만 18세 미만 청소년 |
| 적용범위 | 모바일게임, 콘솔게임을 제외한 PC게임에 한정 | 인터넷 게임 |
| 시행일자 | 2011.11.20 | 국무원 통과 후 |
| 한국인터넷자율정책기구(KISO) | ||
이에 '위쳇'을 만든 중국 기업 텐센트는 2018년 안면인식 기술을 도입해 검열하는 방식으로 셧다운제를 강화했다. 성인 신분으로 위장해도 미성년자가 야간에 일정 시간 이상 게임시 적발한다.
텐센트의 ‘영점순항’(零点巡航)이라 불리는 이 안면인식 인증절차는 일정 시간을 초과해 게임을 할 시 그 계정을 통해 안면 인식이 요구된다. 이 때, 등록해놓은 신분증과 실제 얼굴을 비교, 서로 일치하지 않는다면 미성년자로 간주해 게임이 강제 종료된다. 만약 성인 이용자가 얼굴인식에 실패했다면 다른 얼굴 사진을 제출하면 된다.
중국에 출시 예정인 넥슨(Nexon)의 '던전앤파이터' 모바일 게임 서비스도 텐센트에서 담당하게 됐다. 하지만 중국 내 미성년자 온라인 게임 중독 방지를 위한 '과몰입 방지 시스템'을 업그레이드해야 한다는 등의 이유로 일정이 계속 지연되고 있는 상황이다.
요즘 청소년은 나이가 어릴 때부터 디지털화된 세상을 더 많이 접해 이를 다루는 데 익숙한 세대다. 온라인 상에선 자신이 노출되지 않고 다른 사람의 개인 정보를 도용하는 것이 쉽기 때문에 ‘사이버 범죄’를 일으키는 부적격 이용자를 잡는 것도 더 어려운 현실이다.
고난이도 기술인 안면인식 기술도 다른 사람인 양 특수 분장한 가면은 뚫지 못하기 때문에 감쪽같은 가면 속 진짜 얼굴은 구분할 수 없다.
홍콩 사우스차이나모닝포스트(South China Morning Post)에서는 중국 미성년자의 경우, 게임을 이어가기 위해 애초에 부모의 신분증으로 등록한 뒤, 안면인식을 피하려 잠자는 어머니 얼굴을 스캔하는 방식으로 그냥 넘어가는 일도 있으며, 심지어 고객센터와 확인 통화시 자신의 목을 꼬집어 목소리를 위조하는 사례도 발생하고 있다고 지난 6월 관련 기사를 게재했다.
한편, 안면인식 기술은 미국의 IBM, 아마존, 마이크로소프트 등 대기업에서도 인종·연령·성별에 따라 편차를 보이거나 오류율이 최소 10배에서 최대 100배 차이를 보이는 등 정확성과 공정성 논란이 끊이지 않고 있다.
작년 미국컴퓨터학회(ACM)는 미국 의회에 정부와 기업의 안면인식 기술 사용 중단 요청을 일반 사람들의 인권과 법적 권리에 위협이 될 수 있다는 이유로 적극 촉구한 바 있다.
또한, 우리나라 여성가족부도 지난달 30일부터 게임 셧다운제를 청소년의 자율선택권을 침해한다는 이유로 개선 관련 논의에 들어간 것으로 알려졌다. 청소년 수면권 보장을 위해 한국에 2011년 처음 도입돼 10년간 유지해온 셧다운제가 앞으로 어떻게 이어질지 미지수다. 이에 자녀를 둔 학부모들은 반발이 심한 것으로 알려졌다.
AI타임스 이하나 기자 22hnxa@aitimes.com
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com