(AI타임스=윤광제 기자) 우리는 인공 지능(AI)에 감시되고 있다. AI는 비밀리에 정보 수집을 하는 경우에 강한 힘을 발휘한다. 그리고 이제 독재 정권 때뿐 아니라 민주주의 국가에서도 이 기술이 정치적 및 사회적인 관리 툴로서 이용돼 왔다.
앱과 웹 사이트를 통해서 수집된 데이터가 광고와 소셜 미디어 피드의 최적화에 사용되었음은 주지의 사실이다. 그런데 이 같은 데이터에서 개인 식별 정보를 찾거나 그 정치적 경향을 분석하고 당국에 알리거나 할 수도 있다. 스마트 폰과 스마트 카메라, AI의 진화의 덕에 일련의 기술은 더 세련돼 지고 있는 것이다.
스탠퍼드 대학의 팀은 2017년 사진에 찍힌 인물이 게이인지를 판정한다고 주장하는 알고리즘을 개발했다. 이 알고리즘은 정확도는 차치하더라도 특정인에 대한 박해와 인권침해로 이어질 수 있다.
디지털 사회학자 리사 탈리아 모렛티는 “이런 종류의 테크놀로지를 거리에 보급된 감시 카메라망과 조합하고, 동성애를 범죄로 보는 사우디아라비아 같은 나라에 가지고 간다고 가정하면 거리를 걷고 있는데 갑자기 구속되는 사태가 일어날 수 있다”면서 “단지 그 이유는 컴퓨터가 ‘당신은 동성애자’라고 말했기 때문”이라며 도덕성을 잃은 기술의 위험성에 대해 경고했다.
◆감시 능력이 강화되는 중국
얼굴 인증과 AI감시 기술에 가장 힘쓰고 있는 나라는 중국이다. 치열한 경쟁 외에 다른 나라와 비교해서 개인 데이터에 대한 접근 규제가 느슨하기 때문이다. 덕분에 중국의 AI산업은 급성장하고 있으며 중국 정부의 정보 관리와 언론 통제는 점점 강화되고 있다.
일부 도시에서는 얼굴 인식 시스템을 이용해 감시 카메라의 영상에서 범죄자를 찾는 것이 실제로 이루어지고 있으며 경미한 범죄에 대한 징벌 조치로 개인 정보가 일반에 공개된다.
더 큰 문제는 신장 위구르 자치구에서 무슬림의 탄압에 이 기술이 사용된다는 점이다. 동시에 공산당 정부가 진행하는 ‘일대 일로’ 정책 아래 파키스탄, 캄보디아, 라오스와 같은 나라에 AI모니터링 시스템이 수출되고 있다. 이는 더 나아가서는 테크놀로지의 탄압으로 이어질 것으로 전망된다.
정치학자이자 컨설팅 회사 유라시아 그룹의 창설자이기도 한 이언 브레머는 중국 정부가 가진 감시 능력은 과장해서 보도되고 있을지도 모르지만, 중국이 일으키는 AI의 바람은 개인의 자유를 무서운 속도로 침해하며 악영향을 주고 있다고 지적했다.
"정부는 우선 기술을 확립하고 그것을 사용할 수 있다고 세상에 알립니다. 그리고 본보기로 몇 명을 체포합니다. 그러면 순식간에 국민 모두가 공포를 느끼게 되겠죠“
◆미국에서도 활용 진행
자신에겐 상관없는 먼 나라 이야기라고 생각할지도 모르겠지만, 미국에서도 이 같은 수단이 개발돼 이용되고 있다. 수형자였던 글렌 로드리게스는 가석방을 신청했을 때 알고리즘에 의한 심사에 직면하게 됐다고 밝혔다.
‘COMPAS’로 불리는 이 시스템은 범죄자의 재범률을 예측하기 위해서 개발된 것이다. 로드리게스는 10년간 모범수였지만 제한 조건이 걸린 COMPAS는 ‘재범 가능성이 있기 때문에 가석방해서는 안 된다’고 결론을 냈다.
인간으로 구성된 가석방 위원회는 컴퓨터 프로그램의 판단과는 반대로 로드리게스의 신청은 최종적으로 받아들여졌다. 그러나 COMPAS가 권장한 야간 외출 금지라는 조건이 붙어 있다. 로드리게스는 "지금도 COMPAS의 악몽을 꿉니다"라고 말한다.
미국 경찰 당국도 AI을 채용하고 있다. 뉴욕시 경찰(NYPD)는 현재 얼굴 인식을 포함한 시스템을 시험 운용하고 있다. AI도입의 목적은 업무 효율화와 설명 책임을 완수하기 위해서라는 것이지만 사람들이 당국의 AI활용을 받아들이면 미국을 비롯한 기타 국가들도 기술을 개발하거나 적용하는 전제를 두게 되는 것이다.
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com