미국에서 또다시 총기 난사 사건이 발생했다. 이번에는 콜로라도주 볼더시 슈퍼마켓에서다. 일주일 새 애틀랜타를 시작으로 휴스턴, 댈러스, 필라델피아 등지에서 계속해서 무차별 총격범죄가 끊이질 않고 있다. 이에 사고 후 대처가 아닌, 선제적 예방·대응이 필요하다는 목소리가 커지고 있다. AI 기술을 도입해 일명 ‘잠재적 범죄자’를 가려내고, 그에 맞는 대처가 가능한 사회를 생각해보게 한다.
헐리웃 영화 ‘마이너리티 리포트’는 유사한 내용을 다루고 있다. 2002년 개봉 당시에는 최고의 명장이라 불리는 스티븐 스필버그 감독과 탐 크루즈 주연의 화려한 공상과학영화일 뿐이었다. 그러나 AI 시대가 성큼성큼 다가올수록 상상에 그치지만은 않게 됐다. 실제로 살인현장의 영상을 분석해 추후 어디에서 비슷한 사건이 일어날 지를 예측하는 영화 속 기술은 현 단계에서 얼마든지 가능하다.
영화 속 배경은 2054년 미 워싱턴주다. 극중 탐 크루즈는 범죄를 예측해 사전에 범죄자를 처단하는 최첨단 치안 시스템 프리크라임을 운용하는 팀장이다. 주인공답게 뛰어난 형사적 감각으로 수많은 범죄자를 미리 색출해 체포한다. 그러다 어느 음모에 휩싸이면서 그 자신이 예비살인자로 몰려 이를 해결하기 위해 고군분투하는 내용이 주요 줄거리다.
프리크라임이 가동되는 영화 속 사회는 작가 조지 오웰이 쓴 소설 ‘1984’를 연상케 한다. 시민의 안전과 범죄 없는 청정사회를 만들기 위한다는 명분 아래 프리크라임은 조금이라도 범죄를 저지를 가능성을 포착한다면 조금의 자비도 베풀지 않고 체포한다. 선처 따위 없는 냉정한 시스템 앞에 인간은 자신을 변호할 시도도 못한 채 무력하기만 하다. 1984 속 빅브라더처럼 프리크라임이 자신을 감시하고 있다는 공포가 어떤 유형의 인간에게는 늘 따라다닐 수 있는 것이다.
이는 24일 개최된 ALC웨비나에서 마이크로소프트·페이스북·IBM 등 세계적 IT기업 내 AI윤리 책임자들이 주장한 내용을 떠올리게 한다. 이들에 따르면 AI 기술은 특정 집단이나 지역에 관계없이 모두에게 ‘공정’해야 한다. 동시에 인간의 프라이버시를 보호하고, 안전을 지키는 역할을 해야 한다. 3개 기업 내 AI윤리 책임자들은 이에 위배되는 상황을 경계하고 공익을 위한 AI 기술을 개발하기 위해 학계·시민단체·국제사회와 협력하는 등 외부와의 노력을 아끼지 않고 있다고 밝혔다.
어느 사회제도가 그렇듯 빅데이터에 기반한 AI 기술에도 명과 암은 존재한다. 개인정보 유출과 인권침해 문제는 지금 AI 기술에서도 드러나고 있다. 또 사람보다 빠르고 정확한 AI라고 하지만 오류 가능성도 배제해서는 안 된다. ‘마이너리티 리포트’ 속 프리크라임에 지배되는 사회와 ‘1984’ 속 빅브라더가 통치하는 세상은 절대 선을 향한 단면만을 좇은 결과라고 해도 과언이 아니다. 실제 우리 인간사회는 AI로 인해 이러한 대형오류를 범해서는 안될 것이다.
AI타임스 박혜섭 기자 phs@aitimes.com
