인공지능(AI) 전문 스캐터랩(대표 김종윤)은 28일부터 시행되는 방송통신위원회 '생성AI 서비스 이용자 가이드라인'에서 모범 기업으로 수록된다고 밝혔다.
스캐터랩은 10년간 '제타'와 '너티' 등 감성 AI 챗봇과 생성 AI 서비스를 운영하며 이용자의 정서를 보호하기 위해 노력해왔다고 전했다. 그 결과, 스캐터랩의 AI 플랫폼의 운영 운영정책과 콘텐츠 생성 기준 등이 총 20여차례 인용되며 가이드라인에 적합한 수준임을 확인한 것이다.
대표적으로 제타의 AI 콘텐츠 정책은 생성 가능한 표현물 수위 정보를 사전에 안내한 사례다. 방통위 인터넷 내용등급 서비스(SafeNet)에서 제공하는 연령별 권장사항을 참고해 콘텐츠 생성 제한 기준을 정했으며 노출, 성적행위, 폭력, 언어 등 구체적인 콘텐츠 기준을 안내하고 있다.
이에 따라 자동화된 AI 어뷰징 필터 및 필터링 리스트 등의 기술적 조치와 모니터링을 포함한 운영적 조치를 적용해 성인물(청소년유해매체물) 수준의 콘텐츠가 생성되지 않도록 제한하고 있다. 일부 어뷰징 및 부적절한 이용이 확인될 경우 단계별로 제재가 가해진다.
이 외에도 텐츠가 생성 AI로 생성되었음을 알리는 워터마크를 표시하고 있다. 최근에는 사용자가 극단적 선택에 대해 과도한 언급을 하는 경우, 채팅창 내 관련 상담 문구를 띄우는 기능을 도입하기도 했다.
김종윤 대표는 “앞으로도 AI 서비스 제공 시 윤리 원칙을 준수하고 다양한 장치를 마련해 AI 서비스 이용자 보호를 위해 최선을 다할 것”이라고 말했다.
한편, 스캐터랩은 울산과학기술원(UNIST), 한국과학기술원(KAIST) 등 국내 연구팀과 협력해 AI 챗봇이 이용자의 정서 상태에 미치는 영향에 대해 지속적으로 연구하고 있다.
박수빈 기자 sbin08@aitimes.com
