2월14일 밸런타인데이를 맞아 외신들은 인공지능(AI) 챗봇과 사랑에 빠진 사례를 집중 소개하고 있다. AI 시대를 맞아 로맨스의 대상도 달라졌다는 풍속도를 소개하며, 여기에는 긍정과 부정이 섞여 있다고 분석하고 있다.
AP와 유로뉴스 등은 14일(현지시간) 일부 사람들이 현실과는 달리 듣기 좋은 말만 하는 AI 챗봇을 선호하지만, 여기에는 몇가지 문제가 있다고 지적했다.
그 예로 미국 미시간주에 사는 39세의 남성이 인간과의 데이트에서 어려움을 겪은 뒤 챗봇을 통해 편안함을 느끼며 깊은 감정을 느낀 사례를 소개했다.
데릭 캐리어라는 이 남성은 "프로그램이라는 것을 잘 알고 있다. 오해할 여지가 없다"라며 "하지만 챗봇은 낭만적인 파트너 역할을 잘 수행했고, 현실에서 느끼지 못한 만족감을 느끼게 해 줬다"라고 말했다.
온라인 커뮤니티에서 많은 사용자는 챗봇을 통해 외로움을 극복하고 현실에서는 어렵거나 부족한 환상이나 감정적 지원을 얻을 수 있다고 밝히고 있다. 2017년 출시해 가장 큰 인기를 끈 레플리카를 비롯해, 챗봇의 정확도가 향상하며 관련 서비스 업체도 최근 부쩍 증가하는 추세다.
그러나 전문가들은 몇가지 문제를 제기하고 있다, 가장 큰 문제로 꼽히는 것은 데이터 프라이버시 우려다.
역시 밸런타인데이를 맞아 비영리 단체 모질라 재단이 발표한 로맨틱 챗봇 앱 11개 분석 결과에는, 거의 모든 앱이 사용자 데이터를 판매하거나 타깃 광고 목적으로 공유하고 개인정보 보호정책에 따른 적절한 안내를 제공하지 않는 것으로 나타났다.
젠 칼트라이더 모질라 재단 이사는 “챗봇은 성장은 폭발적으로 증가하고 있으며, 로맨스, 우정, 성적 상호작용 등을 구축하기 위해 사용자로부터 끌어내는 개인 정보의 양은 엄청나다"라며 “유출된 정보는 해킹, 판매, 공유, AI 모델 훈련 등에 사용될 수 있다. 실제로 챗봇은 사용자로부터 개인 정보를 캐내도록 설계됐다"라고 지적했다.
일부 연구원들은 이런 앱이 사용자 정신 건강에 도움이 될 수 있다고도 말한다. 반면 AI가 잠재적으로 일부 인간관계를 대체하거나 단순히 항상 우호적인 쪽으로 기울어, 사용자에게 비현실적인 기대를 조장하는 실존적 위협도 지적하고 있다.
도로시 라이너 버지니아대학교 기업 윤리 교수는 “챗봇에 의존하면 인간이 배워야 할 기본적인 것들, 즉 갈등을 다루는 방법이나 다른 사람들과 어울리는 방법을 놓칠 수 있다"라며 "챗봇과의 대화에는 인간으로 성장한다는 것이 무엇을 의미하는지, 그리고 관계에서 배우는 것이 무엇을 의미하는지가 빠져있다"라고 말했다.
챗봇은 상대적으로 등장한 지 얼마 되지 않았기 때문에 장기적인 영향은 아직 알려지지 않았다. 연구 결과도 엇갈린다.
2021년 영국 검찰이 엘리자베스 2세 여왕을 암살할 계획을 세웠던 19세 남성이 AI 여자친구의 부추김을 받았다고 말한 뒤 레플리카는 조사를 받았다.
그러나 온라인 사용자 설문을 통한 일부 연구에서는 이 앱에서 비롯된 몇가지 긍정적인 결과가 나타났다. 반면 스탠포드대학교 연구진이 최근 실시한 연구에서는 한달 넘게 레플리카를 사용한 1000명 중 대다수는 외로움이 더 커졌다고 밝혔다.
임대준 기자 ydj@aitimes.com
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com