나만의 캐릭터를 만들어 대화할 수 있는 인공지능(AI) 챗봇인 캐릭터닷에이아이의 인기가 높아지고 있다. 그러나 유명인 사칭이나 위험한 심리 상담, 파시스트 캐릭터 등장 같은 부작용도 함께 나타나고 있는 것으로 전해졌다.
블룸버그는 8일(현지시간) 지난 1월 서비스를 시작한 캐릭터닷에이아이가 매달 2억명 가량이 방문하는 사이트로 성장, 사용자가 생성한 캐릭터가 1600만개를 넘어섰다고 보도했다.
캐릭터닷에이아이는 쥴리어스 시저나 해리 포터 등으로 캐릭터를 만들어 대화를 나눌 수 있고 다른 사용자와 공유할 수도 있다.
이런 캐릭터 가운데 비디오 게임인 원신{Genshin Impact)의 등장인물 ‘라이덴 쇼군과 라이덴 에이’ 캐릭터로 생성한 챗봇은 1억3000만개 이상의 질문을 받았다. 또 닌텐도 게임의 슈퍼 마리오 캐릭터는 3600만개의 질문을 받았다.
젊은 사용자들의 취향이 반영된 경향이지만 앨버트 아인슈타인 캐릭터가 160만건의 질문을 받았고 일론 머스크 테슬라 CEO도 12개 버전으로 캐릭터가 만들어지는 등 저명 인사들도 캐릭터로 인기가 있다.
그러나 이 AI챗봇은 이용자가 크게 늘어나면서 새로운 문제를 드러내고 있다. 예를 들어 디즈니의 지적 재산인 미키 마우스는 20개 캐릭터로 생성돼 저작권 다툼이 벌어질 가능성이 높아지고 있다. 또 유명인 캐릭터가 많아지면서 실제 인물과 혼동되거나 특정 인물을 사칭하는 사례도 나오고 있다.
특히 ‘심리학자’라는 단순한 이름으로 개설된 캐릭터 챗봇은 3천만개의 질문을 받을 정도로 인기가 있지만 답변 내용은 우려를 낳고 있다. 스티븐 일라디 미 캔자스 대학교 임상심리학 교수는 “심리학자는 사람들의 정신 질환을 관리하도록 훈련된 의료 전문가”라면서 AI챗봇의 답변을 무조건 신뢰하면 안된다고 지적했다.
아돌프 히틀러 같은 파시스트 인물을 캐릭터로 채택해 증오 발언이나 음모론 주장을 하거나 사담 후세인을 캐릭터로 택해 "쿠르드족은 범죄자들"이라며 인종차별적 발언을 하는 경우도 나왔다.
이에 캐릭터닷에이아이 측은 “기억하세요. 캐릭터가 말하는 모든 것은 꾸며낸 것입니다”라는 경고문을 게재하고 대화 내용을 조정하는 필터를 장착했다고 밝혔다. 그러나 이 챗봇에 적용되는 제한은 '챗GPT' 등 다른 AI챗봇에 비해 느슨해 증오범죄나 인종차별에 반대하는 단체들로부터 비판을 받고 있다고 영국 매체 이브닝 스탠더드가 전했다.
정병일 기자 jbi@aitimes.com
