청소년 자살 문제로 소송을 당한 캐릭터닷AI가 10대 사용자의 안전을 강화하기 위한 부모 감독 장치를 출시했다.
캐릭터닷AI는 최근 보호자와 부모에게 청소년의 주간 활동 내용을 요약한 이메일 발송 서비스(Parental Insights)를 실시한다고 발표했다.
이메일에는 자녀가 앱과 웹에서 보낸 평균 시간과 캐릭터와 대화하는 데 소요한 시간, 그리고 가장 많이 상호 작용한 캐릭터 등이 표시된다.
이 회사는 "부모가 10대 자녀의 참여 습관에 대한 통찰력을 제공하기 위한 것"이라고 밝혔다. 하지만, 부모는 자녀의 채팅 내용을 직접 확인할 수는 없다.
또 지난해에는 청소년을 위한 새로운 필터를 추가, 입력과 출력 과정에 민감한 콘텐츠를 차단했다.
한편, 캐릭터닷AI는 청소년의 자살과 자해에 관여됐다는 이유로 잇달아 소송을 진행 중이다.
임대준 기자 ydj@aitimes.com
관련기사
- "아이들에게 AI 챗봇이 인간이 아니라는 점을 주기적으로 상기시켜야"
- [클릭AI] 캐릭터닷AI, 청소년 자해 유도 혐의로 또 소송 등 외신 종합
- "AI 챗봇이 청소년에 자살 부추겨"...미국서 14세 소년 부모가 캐릭터닷AI 고소
- 캐릭터닷AI, 사진으로 동영상·음성까지 만드는 모델 '아바타FX' 공개
- 구글, 어린이용 '제미나이' 서비스 예정..."부모 동의·지도 필요"
- "챗봇 출력은 언론의 자유에 해당하지 않아"...미국 법원, 캐릭터닷AI 주장 기각
- 메타, AI 챗봇의 '청소년 성적 대화' 방침으로 파문
- 캐릭터닷AI, 미성년자 챗봇 사용 일시 금지
