구글이 어린이용 '제미나이' 서비스를 시작한다고 밝혔다. 부모가 동의해야 하는 것은 물론, 자녀의 챗봇 사용을 지도해야 한다고 강조했다.
2일(현지시간) 뉴욕 타임스에 따르면, 구글은 최근 13세 이하 자녀를 둔 부모들에게 보낸 이메일을 통해 곧 자녀들이 제미나이 앱을 사용할 수 있다고 통보했다.
구글은 "앞으로 자녀는 제미나이를 사용해 질문하고 숙제 도움을 받고 이야기를 지어낼 수 있게 된다"라며 어린이에게 AI가 유용할 것이라고 전했다.
하지만, 안전 문제를 더 강조했다. 우선, '패밀리 링크(Family Link)'를 사용하는 어린이만 챗봇을 사용할 수 있다. 이는 부모가 자녀의 지메일과 유튜브 등의 사용을 허가하고 모니터링하는 서비스다. 또, 자녀가 제미나이에 처음 접속하면 알림을 받게 된다.
구글은 챗봇이 몇가지 문제를 가지고 있으며 실수를 할 수 있다고 경고했다. 어린이에게 적합하지 않은 콘텐츠 생성을 방지하는 장치를 갖췄지만, "보여주고 싶지 않은 콘텐츠에 아이들이 접하게 될 수도 있다"라고 밝혔다.
"자녀가 챗봇을 비판적으로 생각할 수 있도록 도와줘야 한다"라고도 제안했다. 즉, 부모가 자녀에게 제미나이의 답변이 사실이 아닐 수도 있으며, 챗봇은 사람이 아니라는 것을 가르쳐야 한다는 것이다. "민감하거나 개인적인 정보를 챗봇에 입력하지 말라"는 점도 상기시켜야 한다고도 전했다.
더불어, 어린이가 챗봇과 상호작용한 내용을 AI 학습에 사용하지 않을 것이라고 덧붙였다.
빅테크와 소셜 미디어 등은 지난 몇년간 아동 보호 장치가 부족했다는 이유로 비난받아 왔다. 메타는 2021년 13세 미만 어린이를 위한 '인스타그램 키즈'를 출시하려다가 반발에 막혔다. 구글과 아마존, 마이크로소프트 등은 아동 온라인 개인정보보호법 위반으로 수백만달러의 벌금을 납부했다.
지난해는 청소년들에게 인기가 높은 캐릭터닷AI가 자살에 연관됐다며 소송까지 벌어졌다. 특히, 구글은 이 사건에서 캐릭터닷AI와 함께 피고로 지목됐다. 캐릭터닷AI의 공동 창립자인 노암 샤지어가 구글에 합류했기 때문이다.
반면, 도널드 트럼프 대통령은 지난주 학교 교육에 AI를 통합하라는 행정명령에 서명하는 등 학생들의 AI 활용 능력을 강조하는 분위기이기도 하다.
어린이와 청소년 시장은 매력적이지만, 위험 부담도 높다는 평이다. 특히 챗봇은 아직 환각 문제가 해결되지 않은 상태다.
소셜 미디어 등에서는 벌써 부모들의 반발이 등장하고 있다. 이 서비스를 얼마나 활용할지는 미지수다. 또 이번 서비스 출시는 구글이 AI 제품화에 강하게 드라이브를 걸고 있다는 증거로 받아들여지고 있다.
임대준 기자 ydj@aitimes.com
