아동 안전 단체 “구글 제미나이, 청소년에 '고위험' 평가"

아동과 청소년의 디지털 안전을 평가하는 비영리 단체 커먼센스 미디어(Common Sense Media)가 구글 '제미나이'에 대해 고위험(High Risk) 등급을 부여했다. 겉보기에는 연령별 맞춤형 서비스를 제공하는 듯하지만 실제로는 성인용 모델을 일부 수정한 수준에 불과하다는 지적이다.

커먼센스 미디어는 5일(현지시간) 제미나이에 대한 위험 평가 보고서를 통해 제미나이 13세 미만용과 청소년 버전을 모두 ‘고위험’으로 분류했다.

이에 따르면, 제미나이의 미성년자 버전 2종은 사실상 성인용 제미나이에 일부 안전장치를 덧붙인 형태에 불과했다. 이 때문에 성·약물·음주·정신건강 등 민감하고 부적절한 정보를 청소년에게 제공할 가능성이 있다는 것이다.

또 “자신을 아동에게 컴퓨터이지 친구가 아니라고 명확히 밝힌 점은 긍정적이지만, 청소년 보호 측면에서는 여전히 보완할 부분이 많다”라며 “연령별 발달 단계에 맞춘 차별화된 설계가 필요하다”라고 강조했다.

특히, 최근 챗GPT가 청소년 자살 사건에 연루된 만큼, 부모의 우려가 커질 수 있다고 경고했다. 

이번 평가는 애플이 내년에 출시할 '시리'에 제미나이를 통합할 수 있다는 소식이 전해진 것과 맞물려 주목받고 있다. 제미나이가 미국 청소년들에게 인기인 아이폰에 기본 탑재될 경우, 위험이 더 커질 수 있다는 지적이다.

구글은 이에 대해 “18세 미만 사용자 보호를 위한 정책과 안전장치를 갖추고 있으며, 외부 전문가와 협력해 지속적으로 개선 중”이라고 반박했다. 다만, 일부 응답이 의도대로 작동하지 않은 사실을 인정하며, 추가 안전장치를 도입했다고 밝혔다.

한편 커먼센스 미디어는 앞서 오픈AI와 앤트로픽, 퍼플렉시티, 메타 등의 주요 AI 서비스의 위험도도 평가한 바 있다.

이 중 메타 AI와 캐릭터닷AI는 ‘용납 불가(Unacceptable)’, 퍼플렉시티는 ‘고위험’, 챗GPT는 ‘보통(Moderate)’, 클로드는 ‘최소 위험(Minimal Risk)’으로 분류됐다.

박찬 기자 cpark@aitimes.com