텔레그램 딥페이크 성범죄 피해를 묘사한 AI생성이미지
텔레그램 딥페이크 성범죄 피해를 묘사한 AI생성이미지

행정안전부(장관 이상민)는 국립과학수사연구원과 협업, 영상물 조작 여부를 영상 및 음성 종합 분석으로 탐지하는 모델을 개발하겠다고 10일 밝혔다. 

이를 통해 관련 범죄에 신속하게 대응, 불법 콘텐츠에 대한 국민의 우려를 해소할 계획이라고 전했다. 

특히 국민안전 분야에서 ‘AI를 활용한 딥페이크 불법 콘텐츠 분석모델’과 ‘사업장 굴뚝 대기오염 배출 자동 탐지 지원 모델’ 개발을 추진할 예정이다. 가짜뉴스, 디지털 성범죄 등 불법 합성 콘텐츠로 인한 피해 확산을 차단하고 사회적 손실을 최소화하기 위해 동영상의 딥페이크 적용 여부를 분석할 수 있는 모델을 개발한다는 설명이다.

이 외에도 산업재해로 인한 장해등급을 판정할 때 부작용을 방지하기 위해 재해자와 유사한 과거 사례를 학습한 인공지능(AI) 모델을 개발한다는 계획이다. 주치의진단 및 장해 판정에 활용해 신속한 판정에 기여하고 재해자 불편을 줄일 수 있을 것이라고 설명했다.

구체적으로는 5개 분야 12건 데이터 분석과제를 선정해 추진한다고 밝혔다. 데이터 분석은 ▲국민안전(2개 과제) ▲근로·복지(3개 과제) ▲국민건강(2개 과제) ▲국민편의(2개 과제) ▲일하는 방식 개선(3개 과제) 5개 분야로 나눠 진행한다.

올해 과제는 중앙부처, 지자체, 공공기관 대상 수요조사와 전문가 평가를 거쳐 국민안전, 근로-복지, 국민건강 등 생활과밀접한 주제를 우선 고려해 선정했다. 지난 8월부터 시작한 사전 준비 과정을 거쳐 내년 2월까지 심도 있는 데이터 분석과 AI 모델 개발을 진행할 예정이다.

배일권 행정안전부 공공데이터국장은 “앞으로도 국민 생활과 밀접한 다양한 분야에서 AI 기반 과학적 데이터 분석을 확대해 나갈 예정”이라며 “데이터 분석의 질을 높여 국민이 체감할 수 있는 공공서비스 개선이 이뤄질 수 있도록 하겠다”라고 말했다.

장세민 기자 semim99@aitimes.com

저작권자 © AI타임스 무단전재 및 재배포, AI학습 및 활용 금지