테크크런치는 메신저 서비스 업체 스냅이 청소년이 많이 사용하는 스냅챗의 인공지능(AI) 챗봇에 보호 장치를 추가했다고 4일(현지시간) 보도했다.
이에 따르면 스냅은 청소년 보호를 위해 이용자의 연령을 확인하는 필터와 자녀의 챗봇 이용 빈도 등을 보호자에게 알려주는 기능을 스냅챗에 도입했다. 필터는 사용자가 생년월일을 입력하면 연령에 따라 챗봇의 응답을 조절한다.
또 ‘가족 센터’ 메뉴에서 자녀가 어떤 친구와 연락했는지, 최근에 얼마나 연락했는지를 부모나 보호자에게 알려주는 기능을 앞으로 몇 주 후 활성화할 계획이다. 이 기능을 사용하려면 부모와 자녀가 모두 ‘가족 센터’ 사용을 선택해야 한다.
스냅은 2월 말 ‘마이 AI’라는 이름의 AI 챗봇을 도입했으나, 안전하지 않고 부적절한 방식으로 응답한다는 비판을 받아왔다. 이와 관련해 스냅은 공식 블로그에서 “지난 6주 동안 챗봇을 속여 가이드라인을 준수하지 않는 응답을 끌어내려는 사람들로부터 교훈을 얻었다”며 "새 도구로 안전성을 개선하겠다"고 밝혔다.
또 “가장 최근의 분석 결과 마이 AI의 응답 중 0.01%만이 부적합한 것으로 밝혀졌다”며 부적절한 응답은 대부분 챗봇이 사용자의 말을 따라 한 것이라고 설명했다. 따라서 "사용자가 챗봇을 오용하면, 일시적으로 이용을 금지하겠다"고 경고했다.
이와 함께 폭력성과 성적 표현이 담긴 노골적인 용어, 불법 약물 사용, 아동 성적 학대, 따돌림, 증오심 표현, 경멸적이거나 편향된 진술, 인종차별, 여성혐오 또는 소수 집단 소외시키기 등과 관련한 콘텐츠는 금지한다고 강조했다.
강두원 기자 ainews@aitimes.com
