UCL 연구진, 향후 15년간 AI 범죄 관련 진단 보고서 발표
범죄 피해‧수익‧실행 용이성‧근절 가능성 등 기준으로 평가
무인차량 범죄‧스피어 피싱‧AI 통제 시스템 방해 등도 지적
영국 연구진이 미래에는 인공지능(AI) 기술 활용으로 범죄가 더욱 고도화되면서 특히 가짜 오디오나 가짜 비디오와 같은 딥페이크를 이용한 범죄가 잠재적인 AI 관련 범죄 가운데 가장 우려스럽다는 진단을 내놨다.
유니버시티 칼리지 런던(UCL) 연구진이 향후 15년간 AI 기술을 악용한 범죄 가운데 딥페이크(deepfake)를 가장 위험하고 심각한 범죄 형태로 지목하는 내용의 보고서를 발표했다고 5일(현지시간) 영국 일간지 ’인디펜던트‘가 보도했다.
연구진은 향후 범죄에 AI를 이용할 수 있는 20가지 방법을 조사했다. 학술지와 뉴스, 시사보도, 소설, 대중문화 등에서 20개의 AI 기반 범죄를 모아 정리했다. 이후 학계와 민간 전문가, 경찰, 정부, 국가보안기관 등에서 AI 전문지식을 갖춘 31명을 대상으로 논의를 거쳐 잠재적 범죄의 심각성 순위를 매기도록 했다. 심각성은 예상되는 피해 규모와 잠재적인 범죄수익, 범죄 실행 용이성 및 근절 가능성 등을 기준으로 평가했다.
보고서에 따르면 딥페이크 기술을 이용한 가짜 콘텐츠는 적발‧예방‧근절이 어려울 뿐만 아니라 공인의 명예 훼손부터 금융사기에 이르기까지 목적도 다양해 더욱 위험할 수 있다는 설명이다. 연구진은 기존에 논란이 되고 있는 유명 정치인 등의 가짜 합성 영상은 물론 화상통화로 지인을 사칭해 돈을 갈취하는 사기 등 다양한 방식으로 딥페이크가 악용될 수 있다고 내다봤다.
연구진은 이 같은 딥페이크 콘텐츠가 오디오‧시각자료 증거에 대한 광범위한 불신으로 이어질 수 있으며 그 자체로 사회적 해악이 될 것이라고 지적했다.
또 연구진은 딥페이크 외에도 위험성이 높은 다른 AI 기반 범죄도 거론했다. 연구진은 무인차량 관련 범죄나 맞춤형 피싱 메시지 사기(스피어 피싱 공격), AI 통제 시스템 방해, 온라인 정보 수집을 통한 대규모 공갈‧협박, AI로 작성한 가짜 뉴스 배포 등을 예로 들었다.
이 밖에 상대적으로 심각도가 낮은 범죄로는 우편함 등으로 소형 로봇을 이용해 침입하는 빈집털이 절도나 AI를 활용한 스토킹 범죄 등이 있었다.
이번 연구조사에 참여한 루이스 그리핀 UCL 컴퓨터공학과 교수는 “AI 기반 기술 역량이 확대됨에 따라 범죄 악용 가능성도 커지고 있다”며 “잠재적인 AI 위협에 적절히 대응하기 위해서는 이 같은 위협이 무엇이고 우리 삶에 어떤 영향을 미칠 수 있는지를 파악해야 한다”고 말했다.
UCL 컴퓨터공학과의 매튜 콜드웰 박사는 “오늘날 온라인 활동은 사람들의 삶에서 많은 부분을 차지하고 있고 평판을 좌우할 수 있다”며 “데이터가 자산이자 정보력인 이러한 온라인 환경에서 AI 기반 범죄가 확산되기 쉽다”고 지적했다. 이어 “기존의 전통적 범죄와는 달리 디지털 영역에서 일어나는 범죄는 쉽게 공유‧반복될 뿐 아니라 판매될 수도 있다”며 “범죄 기법을 상품처럼 시장에서 거래하고 아웃소싱 등 범죄를 서비스업화할 수 있다”고 경고했다.
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com