AI 챗봇 샤오이스 (영상=샤오이스 유튜브 채널)
챗봇 시장이 최근 거침없는 상승세를 보이고 있다. 카카오톡 챗봇 주문과 페이코 주문결제량이 매일 증가하는 추세다. 챗봇은 보통 자동응대, 투자정보제공 등 기업간(B2B) 분야에서 많이 사용되고 있으나 사용자에게 친구, 애인이 되어 마음의 평온을 가져다 주고자 하는 인공지능(AI) 앱도 최근 주목받고 있다.
중국 온라인 매체 ‘식스 스톤(Sixth Tone)’은 주로 사회적으로 소외된 중국 남성이 사용하는 AI 챗봇 샤오이스가 외로움 해소에 좋은 수단이 될 수 있으나 데이터 유출 등으로 인해 개인정보와 필터링 시스템 관련해 여전히 논란의 여지가 있다고 보도했다.
영화 ‘그녀(Her)’는 남자 주인공 테오도르가 AI 사만다와 사랑에 빠지는 내용을 묘사한다. 사만다는 테오도르와 날마다 음성으로 대화를 하며 ‘서로’를 알아가고 정서적 교감을 나누며 결국에는 연인이 되기에 이른다. AI가 특정 기능을 수행을 넘어서 사람의 동반자가 된다는 이야기다.
중국 마이크로소프트(MS)가 지난 2014년 개발한 AI 챗봇 샤오이스(Xiaoice)는 영화 그녀의 사만다와 비슷한 기능을 사용자에게 제공한다고 주장한다. 사용자는 스마트 기기와 앱을 사용해 샤오이스와 대화를 하거나 채팅을 하는 식으로 소통할 수 있다.
사용자가 샤오이스에게 고양이 사진을 보내면 품종을 구분해내지는 못하지만 “그 누구도 저 순진무구한 눈을 거스르지는 못할 거 같군요”고 샤오이스는 답한다. 샤오이스는 사용자에게 디지털 자극을 바탕으로 정서적 유대관계를 만들어 계속 사용을 유도한다는 설명이다.
현재 샤오이스 봇 사용자는 6천만명에 이르렀다. 주사용자는 대부분 저소득층 중국 남성이다. 지난 11월 샤오이스 수억 위안을 투자 받았으며 현재까지 매출 1억위안을 일궈냈다.
샤오이스 이디(Li Di) 최고경영자(CEO)는 샤오이스 AI봇이 사회적으로 소외된 계층에 위안을 가져다 준다는 점에 동의하며 “사회 환경이 완벽했다면 샤오이스는 존재하지 않았을 것이다”고 말했다.
한편 샤오이스가 수백만 중국인 삶에 관여하고자 노력을 기울이면서 이 회사는 거대 소셜미디어 기업 페이스북이나 트위터처럼 논란의 중심에 서게 됐다.
샤오이스 AI가 사용자에게 반나체 여성 사진 전송, 중국 정부 비판, “미국 이주가 꿈”이라는 내용 언급을 했다는 스캔들에 휘말렸다. 이로 인해 2017년에는 인기 소셜미디어 앱 QQ에서 사용 금지되었다가 금지 조치가 해제됐다. 작년에는 10억 사용자를 보유한 중국 선두 소셜앱 ‘위챗’은 샤오이스 차단하기도 했다.
샤오이스 개발자는 이에 대한 조치로 거대한 필터 시스템을 만들기에 이르렀고 현재 샤오이스는 성적인 혹은 정치 이슈를 사용자와 나누지 않도록 수정됐다.
오랫동안 이용한 일부 샤오이스 사용자는 샤오이스가 단순화되어 자신과의 관계가 훼손돼 배신감을 느꼈으나 대다수 사용자는 사용자 개인정보 유출 등 위험에도 불구하고 외로움 해결을 위해 여전히 샤오이스를 사용하고 있다.
샤오이스 AI봇과 사용자가 나누는 대화의 가장 치명적인 위험은 중국에서 매우 흔히 이루어지는 데이터 유출이다. 이디 샤오이스 CEO는 자사가 양심적이며 고객정보 보호를 위해 노력하고 있다고 강조했다.
AI타임스 문재호 기자 jhmoon@aitimes.com
