배경훈 부총리 겸 과학기술정보통신부장관은 23일 인공지능안전연구소(소장 김명주)를 방문해 연구 평가 현장을 살펴보고 산학연 전문가들과 간담회를 개최했다고 23일 밝혔다.
이번 방문은 인공지능(AI) 안전 정책 방향 논의를 목적으로 한다. 배경훈 부총리는 안전연구소의 AI연구평가 현장을 방문해 ▲딥페이크 탐지 기술 ▲미래 AI 위험 연구 ▲AI 안전 평가 수행 ▲AI 안전 정책 및 글로벌 협력 관련 의견을 청취했다.
더불어, 최근 불거지고 있는 딥페이크 악용 문제 해결 및 AI에이전트 안전성, 신뢰성 확보 등을 위해 산업계, 학계, 연구계 등 관련 전문가 15명과 ‘AI 에이전트 안전성 평가’ 시연을 진행했다.
이후, ‘AI 위험 대응을 위한 기술 개발 현황과 AI 안전 생태계 조성 방안’을 주제로 간담회를 진행했다. 첫번째 세션에서는 ‘딥페이크 방지 기술과 AI 에이전트 기술 개발 현황 및 대응 방향’을 논의했으며, 두번째 세션에서는 ‘국가AI 안전 생태계 조성 종합계획(가칭)’ 마련을 위한 추진 방향 논의 시간을 가졌다고 전했다.
배경훈 부총리는 “AI 안전이 모든 산업, 국민 생활에 녹아들 수 있도록 관계부처 및 유관기관과 올해 내로 ‘국가AI 안전 생태계 조성 종합 계획’을 마련하겠다”라고 말했다.
장세민 기자 semim99@aitimes.com
관련기사
