AI ’딥페이크 봇‘ 활용…무료로 나체사진 제작‧공유‧유포
텔레그램 채널 공유‧유포...피해자 일부는 미성년자로 드러나
딥페이크 규제 노력 확산…SNS 기업 등도 딥페이크 근절 동참
여성의 옷을 투시해 알몸을 볼 수 있다면? 응큼한 상상이 현실이 됐다. 인공지능(AI) 기술을 악용해 사진 속 여성들의 옷을 벗겨 누드로 바꿔주는 텔레그램 채널 운영 사실이 드러나 충격이다. 최근 딥페이크 범죄가 사회적으로 수차례 불거지고 있는 가운데 이번 사건으로 AI 딥페이크 기술이 또다시 뜨거운 감자로 떠올랐다.
◇ AI가 옷 벗긴 여성 피해자 10만 명 넘어
최근 AI 기술을 이용해 여성 사진에서 옷을 디지털로 제거, 10만 명 넘는 여성들의 가짜 나체사진이 텔레그램 채널에서 공유‧유포되고 있는 것으로 밝혀졌다. 특히 이들 피해자 가운데 일부는 미성년자로 드러나 큰 파장이 예상된다.
사이버 보안업체 센시티(Sensity)가 이 같은 내용을 담은 새로운 보고서를 공개했다고 BBC와 워싱턴포스트 등 주요 외신이 보도했다. 보고서에 따르면 지난해 7월부터 1년간 가짜 나체사진 유포로 피해를 입은 여성의 수는 약 10만4852명으로 파악됐다. 조사 결과 미성년자 사진들도 발견돼, 일부 사용자들은 주로 소아성애 콘텐츠를 만들어 공유하는 데 이 서비스를 이용하고 있는 것으로 나타났다.
문제의 서비스를 운영하는 텔레그램 채널은 AI 기반 ’딥페이크 봇(deepfake bot)‘을 이용한 것으로 알려졌다. AI 기술로 여성 이미지에서 옷을 지우고 나체로 합성하는 방식이다. 이 AI 봇은 텔레그램 사용자가 보낸 사진을 무료로 몇 분 안에 뚝딱 편집해준다. 사용자가 자동화된 서비스를 통해 옷을 입은 여성의 사진을 익명으로 보내면 옷을 벗은 누드 버전의 사진을 받아볼 수 있다.
센시티는 해당 서비스 봇이 특히 러시아 소셜미디어 사이트인 ’VK‘를 통해 상당한 광고를 받았으며 사용자의 약 70%가 러시아와 구소련 국가 출신이었다고 말했다. 그러나 VK 측은 ”플랫폼에서 그와 같은 콘텐츠나 링크는 허용되지 않으며 이를 배포하는 커뮤니티를 차단하고 있다“고 선을 그었다.
센시티 측은 이번 보고서 내용을 텔레그램을 비롯해 관련 법 집행기관 등에 알렸으나 아무런 답변도 받지 못했다고 설명했다. BBC도 텔레그램 측에 의견을 요청했으나 이번 논란과 관련해 어떠한 언급도 하지 않았다고 전했다.
◇ AI '딥페이크 봇‘ 실제 사용해보니
BBC 측은 일부 여성의 동의를 얻어 여러 장의 사진을 테스트해봤다. 다만 그 편집 결과물은 전혀 사실적이지 않은 실제에 훨씬 못 미치는 수준이었다고 BBC는 전했다. 어떤 사진의 경우 여성의 횡격막 부분에 배꼽이 있는 어이없는 모습도 있었다.
채널 운영자는 이 같은 서비스를 단순한 ‘흥미’나 ‘장난’ 혹은 하나의 ‘오락거리’로 치부해 공분을 샀다. ‘P'로 알려진 해당 서비스 운영자는 "폭력성 없는 오락거리일 뿐”이라며 "사진도 사실적이지 않기 때문에 아무도 이 사진을 이용해 협박하려고 하지 않을 것"이라고 주장했다. 이어 "운영팀이 어떤 사진이 공유되고 있는지 모니터링하고 있다"면서 부적절한 사용자들은 차단시키고 있다고 설명했다.
지금까지 딥페이크를 악용한 피해 사례들을 살펴보면 유명인사의 가짜 포르노 영상 등이 주로 거론됐다. 하지만 이제 딥페이크 범죄 대상이 일반인들로까지 확대되고 있는 양상이다. 실제 이번 피해자의 사진 가운데 약 70%가 소셜미디어 계정이나 개인 자료에서 나온 사진이었다. 딥페이크 나체사진 공유 채널 중 한곳에서 실시한 설문조사에 따르면 사용자 대부분은 그들이 실생활에서 알고 있는 여성의 사진을 나체 이미지로 만들고 싶다고 답했다.
조르지오 파트리니 센시티 CEO는 민간인의 개인 사진이 도용됐다는 점을 들어 "사진이 공개된 소셜미디어 SNS 계정만 있다면 누구나 표적이 될 수 있다"고 경고했다. 또 “이 같은 웹사이트나 앱 상당수는 법적으로 엄격히 규제되지 않고 있다”면서 문제의 서비스가 공공연하게 운영되고 있는 현실을 꼬집었다.
◇ 딥페이크 범죄 얼마나 심각할까
딥페이크는 딥러닝(deep learning)과 페이크(fake)의 합성어로 AI 기반의 알고리즘을 활용해 이미지나 동영상을 편집‧조작하는 기술을 말한다. 이번에 문제가 된 나체 이미지를 생성하기 위해 사용된 소프트웨어는 '딥누드(DeepNude)'다. 생성적 적대신경망(GAN)으로 알려진 AI 기술을 이용해 가짜 누드를 만들어낸 것이다.
일각에서는 딥페이크 기술의 발전으로 콘텐츠가 더욱 정교해지면서 이를 악용한 범죄도 날로 늘어가고 있지만 이를 규제할 법적 장치가 제대로 마련돼 있지 않다고 지적한다. 전문가들은 미래에 딥페이크를 이용한 범죄가 잠재적인 AI 관련 범죄 가운데 가장 우려스럽다는 진단을 내놓기도 했다.
특히 딥페이크는 악용되는 목적이나 용도가 다양하기 때문에 적발‧예방‧근절이 어렵다. 전문가들은 장기적으로 딥페이크 오디오‧비디오 등의 가짜 콘텐츠 양산이 오디오‧시각자료에 대한 광범위한 불신으로 이어질 수 있다고 경고했다.
실제로 사이버보안 전문업체 ‘딥트레이스랩스(Deeptrace Labs)’가 지난해 10월 발표한 보고서에 따르면 온라인에 게재된 딥페이크의 수가 지난 7개월간 약 1만5000개로 집계돼 빠르게 증가하고 있는 것으로 나타났다. 이 같은 상황에서 지난해 미국 버지니아 주는 처음으로 딥페이크를 불법화한 바 있다.
◇ ”딥페이크를 잡아라“…딥페이크 범죄 근절 움직임 확산
페이스북을 비롯한 일부 소셜네트워크서비스(SNS) 기업은 자사 플랫폼에 딥페이크 기반 조작 동영상의 게재를 금지하는 조치를 취하고 딥페이크 탐지 기술을 개발하는 등 불법적인 딥페이크 콘텐츠 퇴치에 나서고 있다.
페이스북의 경우 AI 딥페이크 탐지 기술 개발 촉진을 위해 지난해 12월부터 지난 3월까지 마이크로소프트(MS), 아마존웹서비스(AWS) 등과 협업해 개최한 ‘딥페이크 탐지 챌린지(DFDC)’ 결과를 공유한 바 있다. 또 그 대회를 통해 확보한 10만개 분량의 데이터베이스(DB)를 공개하기도 했다.
한편 국내에서도 딥페이크 피해 사례가 속출하자 올해 국회 본회의에서 '성폭력범죄의 처벌 등에 관한 특례법(성폭력처벌법)‘ 개정안이 통과됐다. AI 기술을 이용해 '딥페이크 포르노'를 제작·배포하면 5년 이하의 징역 또는 5000만원 이하 벌금에 처한다는 규정이다. 다만 소지자에 대한 처벌 규정은 없어 반쪽짜리 법이라는 비판도 나오고 있다.
[관련기사] 딥페이크에 이은 페이크 페이스, GAN기술 진화 "지나치게 똑같다"
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com