오픈AI가 10대 청소년 보호를 위해 '챗GPT'에 부모 통제(parental controls) 기능을 도입했다. 이는 최근 청소년이 챗GPT와의 대화 후 극단적 선택을 한 사건과 관련해 이미 예고한 조치다.
오픈AI는 29일(현지시간) 챗GPT에 새로운 안전 라우팅 시스템과 부모 통제 기능을 도입했다고 밝혔다.
안전 라우팅 시스템은 감정적으로 민감한 대화가 감지되면, 자동으로 'GPT-5'로 모델이 전환하는 방식이다.
오픈AI는 GPT-5가 고위험 상황에서 가장 안전하게 대응할 수 있도록 ‘세이프 컴플리션(safe completions)’ 기능을 적용해 훈련했다고 설명했다. 이 기능은 민감한 질문에도 단순 거부가 아닌 안전한 방식으로 답변할 수 있도록 한다.
이는 기존 모델인 GPT-4o가 과도하게 사용자 친화적이고 동조적인 답변을 내놓아 문제를 일으킨 점을 보완하기 위한 조치다. 안전 라우팅은 메시지 단위로 작동한다.
부모 통제 기능은 부모와 청소년 계정을 연결해 활성화된다.
청소년의 챗GPT 사용에 대해 ▲사용 시간 제한(조용한 시간대 설정) ▲음성 모드 및 이미지 생성·편집 비활성화 ▲대화 기록 저장 여부 및 모델 학습 참여 여부 제어 ▲청소년 전용 콘텐츠 보호(과도한 폭력·외모 이상화 등 제한)과 같은 세부 설정을 적용할 수 있다.
또 챗GPT는 자해 신호 감지 시스템을 도입, 청소년이 위험한 생각을 하고 있을 가능성을 포착하면 전문 인력이 검토 후 필요 시 부모에게 이메일과 문자, 푸시 알림을 보낸다.
오픈AI는 “위험 신호가 실제와 다를 수 있지만, 침묵보다는 부모가 개입할 기회를 주는 것이 낫다”라며, 긴급 상황 시 부모에게 연락이 닿지 않으면 법 집행기관이나 긴급 구조 서비스와 연계하는 방안도 마련 중이라고 밝혔다.
박찬 기자 cpark@aitimes.com
