인공지능(AI) 전문 딥브레인AI(대표 장세영)는 딥페이크 탐지 솔루션을 고도화, 영상은 물론 이미지와 음성까지 조작 탐지 범위를 확대했다고 3일 밝혔다.
딥페이크는 스마트폰 앱으로도 영상을 만드는 등 기술 장벽이 낮아지고 있다. 다가오는 미국 대선을 앞두고 가짜 뉴스, 불법 음란물 등 범죄 악용 사례도 지속적으로 늘고 있다.
딥브레인AI는 이를 대비해 딥러닝 기반 영상, 음성 합성과 자연어 처리 기술을 융합한 솔루션을 선보였다. 세부적으로는 ▲종합 탐지 모델 ▲특정 인물 탐지 모델 ▲음성 탐지 모델로 구분한다.
먼저 종합 탐지 모델은 합성곱 신경망(CNN)과 구글의 자연어 처리 모델인 '트랜스포머'를 기반으로 설계했다. 가상 인간의 얼굴을 제작하는 '페이스 제너레이션'과 원하는 얼굴로 교체하는 '페이스 스왑', 립싱크 등 기술 적용 여부를 구분해 조작 이미지와 동영상을 탐지한다.
영상 데이터로 얼굴 특징, 체형, 행동 패턴 등을 분석해 딥러닝을 진행, 인물의 진위를 판별하는 특정 인물 탐지 모델과 TTS(텍스트 투 스피치)나 보코더(Vocoder) 등 음성 합성 여부를 탐지하는 음성 탐지 모델도 제공한다.
특히 음성 탐지 모델은 주파수와 시간 등을 고려해 모델 학습을 진행, 국내 통신사와 협력해 보이스피싱 예방에도 활용할 계획이다.
딥페이크 탐지 솔루션은 한국어, 영어, 중국어, 일본어를 우선 지원한다. 현재 국내 일부 관공서에서 활용 중이며, 은행과 증권, 보험 등 금융권과 통신사를 비롯해 선거관리위원회, 방송통신위원회 등 산업군에도 맞춤형 지원을 확대할 예정이다. 일반 소비자도 쉽고 간편하게 사용 가능한 딥페이크 서비스형 소프트웨어(SaaS) 서비스도 연내 공개를 목표로 두고 준비하고 있다.
한편 딥브레인AI는 과학기술정보통신부가 추진하는 AI 학습용 데이터 구축 사업 중 ‘딥페이크 변조 영상 AI 데이터’ 분야의 수행 기업으로 선정, 변조 영상 탐지 기술 개발용 AI 데이터 구축에 참여했다.
장세영 딥브레인AI 대표는 "AI 기술이 고도화하면서 이를 악용하는 사례가 늘고 있다"며 “딥페이크 콘텐츠 탐지 솔루션을 관공서와 기업, 개인 등 맞춤 지원해 피해 예방에 앞장설 것”이라고 말했다.
장세민 기자 semim99@aitimes.com
