중국이 공산당 당원들의 충성도를 평가할 수 있는 인공지능(AI) 시스템을 만든 것으로 알려졌다. 이 시스템은 공산당원의 표정과 뇌파를 분석해 '사상교육'에 주의를 기울이고 있는지를 파악한다.
영국 매체 더타임스(The Times)에 따르면 이 시스템은 허페이 종합 과학 센터(Hefei Comprehensive National Science Center)의 연구원들이 개발했다. 더타임스는 이 기술이 7월 1일에 인터넷에 업로드되고 얼마 지나지 않아 삭제된 기사에 자세히 설명되어 있다고 밝혔다. 삭제된 기사는 “당원들이 사상과 정치 교육을 어떻게 받아들였는지 판단할 수 있고, 한편으로는 사상과 정치 교육을 위한 실제 데이터를 제공해 개선되고 풍부해질 수 있다”고 전한다.
허페이 종합 과학 센터에 따르면 AI 기술은 '당에 감사하고 당에 귀를 기울이고 당을 따르려는 공산당원들의 자신감과 결단력을 공고히 하기 위해' 사용될 것이다. 허페이 종합 국립 과학 센터는 연구팀에 소속된 43명의 공산당원들에게 이 기술을 테스트하도록 독려한 것으로 알려졌다.
삭제된 글과 함께 공개된 영상에는 연구원이 키오스크에 들어간 뒤 스크린 앞에 앉아 당 정책과 성과를 홍보하는 글을 바라보는 모습이 담겼다. 키오스크는 감시 카메라를 통해 연구원의 표정을 볼 수 있다. 뇌파 판독 기술이 키오스크에 있는지 또는 이 나라의 수백만 공산당 당원들을 감시하기 위해 전체 시스템이 어떻게 배포될 것인지는 불분명하다.
그러나 사람들의 뇌파를 읽는 것이 중국에선 새로운 일은 아닌 것으로 보인다. 2018년에 사우스 차이나 모닝 포스트(South China Morning Post)는 뇌 스캐닝 기술이 항저우의 공장 노동자들에게 사용되고 있다고 보도했다. 뇌파 판독 헬멧을 사용해 작업자의 감정을 읽고 AI 알고리즘을 사용해 우울증, 불안 또는 분노와 같은 감정을 감지하는 것이 포함됐었다.
시진핑(習近平) 국가주석이 이끄는 중국 공산당은 '사상과 정치 교육'이 당에 충성하는 데 필수적이라고 믿고 있다. 당에는 이미 'Xuexi Qiangguo' 또는 '중국을 강하게 만들기 위한 연구'라는 구성원을 위한 '교화 앱'이 있다. 이 앱은 9,677만 회원이 기사를 읽고, 비디오를 보고, 공산주의 영웅에 대한 퀴즈에 답함으로써 포인트를 얻도록 강요한다.
사용자가 시진핑 주석의 인용문을 검색하고 그의 연설과 여행에 대한 짧은 비디오를 보는 데 보낸 시간을 추적한다. 아에프페 통신(AFP) 보도에 따르면 회원들은 자신의 포인트를 패스트리나 태블릿과 같은 선물로 교환할 수 있다.
한편 중국 정부는 안면 인식이 가능한 보안 카메라부터 경찰이 검문소에서 스마트폰에서 개인 정보를 추출하는 데 사용하는 앱에 이르기까지 첨단 감시 장치를 사용하고 있다. 중국은 최신 기술을 사용해 시민들을 추적하는 것으로 유명하다. 정부가 신뢰할 수 없다고 판단하는 사람들은 항공권 구매와 같은 기본적인 특권을 잃을 위험이 있다.
사회 신용 점수가 낮으면 보수가 좋은 직업에서 제외되고 집이나 자동차 대출을 받거나 호텔을 예약하는 것도 불가능하다. 정부는 인터넷 연결 속도를 늦추고 자녀가 사립 학교에 다니는 것을 금지하고 모든 사람이 볼 수 있도록 공개 블랙리스트에 프로필을 게시한다.
작년에 중국은 97% 이상의 정확도로 범죄를 저지른 사람들을 기소할 수 있는 AI 검사를 개발한 것으로 밝혀졌다. 2015년부터 2020년까지 17,000건의 실제 사례를 사용해 훈련된 이 시스템은 신용카드 사기, 도박 범죄, 위험한 운전, 절도, 사기, 고의적 상해 및 공무 방해와 같은 상하이에서 가장 흔한 8가지 범죄를 식별하고 기소할 수 있다.
정부는 위챗(WeChat) 앱을 통해 "데드비트 지도(deadbeat map)"를 제작하기도 했다. 이 지도는 사용자 주변의 모든 블랙리스트에 게시된 사람들을 식별하는 그래픽을 보여준다. 지도에 표시된 사람을 탭하면 이름, 법원 번호, 신뢰할 수 없는 사람으로 분류된 이유를 포함한 개인 정보가 표시된다. 신분증 번호와 집 주소도 부분적으로 표시된다.
사회 신용 점수가 너무 낮은 시민들은 범죄를 저질렀기 때문이 아니라 그럴 가능성이 있기 때문에 미리 체포되어 재교육 수용소에 보내진다는 보고도 있다. 시민들은 또한 제한 사항을 위반한 범죄를 신고할 경우에 신뢰를 쌓는 포인트를 얻을 수 있다. 예를 들어 불법적으로 개인 집에서 기도하기 위해 모인 기독교인이나 무슬림 위구르인이 모이는 것을 당국에 신고할 수 있다.
최근 몇 주 동안 중국은 대중이 범죄를 신고하고 점수를 높이도록 동기를 부여하기 위해 보상 시스템을 표준화하는 것을 목표로 삼고 있는 것으로 알려졌다. 중국 시민은 정보의 유용성에 따라 감사장 또는 최대 $14,925의 보상을 받을 수 있다. 중국 국가안보부 관계자는 "이번 조치의 공식화는 국민의 마음, 사기, 지혜, 힘을 널리 모아 국가 안보 사업을 지원하고 지원하려는 일반 대중의 열의를 충분히 동원하는 데 도움이 된다"고 말했다.
AI타임스 박찬 위원 cpark@aitimes.com
