21일 고위험군 대상 정책 초안 발표‥오는 23년 제정
안면인식 카메라부터 차별조장 시스템 사용 금지 포함
법정이나 이민자 대상 업무에서도 활용하면 안 된다

(사진=셔터스톡). 
(사진=셔터스톡). 

유럽연합(EU)이 21일(현지시간) 인공지능(AI) 사용을 규제하기 위한 정책초안을 발표했다. 미국이나 아시아권 나라보다 재빠르게 정책을 내놓으며 무분별한 AI 사용에 본격적으로 제동을 걸고 나서는 모양새다. 새로운 기준점을 제시하는 동시에 구글·아마존·마이크로소프트(MS) 등 거대 IT 기업에게는 개발부터 상용화까지 전 단계에 걸쳐 걸림돌로 작용할 것으로 보인다.

EU 집행위원회가 발표한 AI 정책안은 윤리적으로 혼란을 야기하고, 개인의 안전을 침해하는 AI를 막기 위한 규제가 주를 이루고 있다. 총 108 페이지 분량의 초안은 ▲공공장소에서 안면인식 카메라 사용 금지 ▲(국가 테러나 아동범죄 외) 생체정보를 이용한 신원 확인 금지 ▲불법체류자 색출 등 이민자 대상 업무 시 사용금지 ▲법정 내 재판·집행 시 사용 금지 등을 명시하고 있다.

집행위원회 측은 이 항목에 포함되는 분야가 사람의 안전이나 기본권을 위협하는 ‘고위험군’이라고 간주했다. 위원회에서 IT 기술과 경쟁 파트를 담당하는 마르그레테 베스타게르 위원은 “현재 AI는 가장 중요하면서도 인간사회에 전례 없는 소란을 안기는 기술”이라며 “급성장하고 있는 기술이 주류가 되기 전에 규제하려는 시도”라고 설명했다. 또 “초안 과정을 거쳐 최종적으로 완성이 되면 유럽을 비롯해 글로벌 기준까지 정립할 수 있을 것”이라고 내다봤다.

마르그레타 베스타게르 EU 집행위원. 집행위에서 IT 기술과 경쟁 부문을 담당하고 있다. (사진=셔터스톡). 

정책초안은 아동과 장애인 등 사회약자를 타깃으로 한 AI 사용도 금지했다. 학교 성적이나 시험 채점에 AI를 도입한다거나 은행에서 대출 관련 신용 기록 분석, 직장 내 실적을 기반으로 한 인사기록 작성 등에 AI를 사용해서는 안 된다. 집행위원회는 또 음성인식 기반 장난감으로 인해 아이들이 잘못된 윤리의식을 가질 수 있다고 판단해 이같은 제품의 판매도 금지시켰다.

만약 유럽 내에서 기업들이 이를 어길 경우, 글로벌 매출의 6% 또는 3000만유로(약 403억원)의 벌금이 부과된다. 베스타게르 위원은 “지금까지 어느 나라에서도 시도하지 못 했던 엄격하고 강력한 패널티”라고 자평했다.

거대 IT 기업들에게는 난관이 될 전망이다. 이 초안대로 규제안이 제정된다면 IT 기업들은 자사 AI 기술 상용화를 위해 어떻게 만들어졌고, 어떻게 쓰일지 설명하는 문서를 매번 제출해야 한다. 집행위원회가 안전성에 대한 증거자료를 요구할 것이기 때문. 무엇보다 챗봇이나 딥페이크 기반 어플리케이션은 출시에 상당한 어려움이 있을 것으로 보인다.

EU 집행위원회의 법 초안 공개는 엇갈린 반응을 불러일으키고 있다. AI 윤리를 연구하는 런던 소재 에이다 러브레이스 인스티튜트의 칼리 린드 소장은 “AI를 규제하는 것에 대해 최근 몇 년 간 많은 논의가 있었지만 이렇게 적극적으로 나선 국가는 EU가 처음”이라며 규제안 발표에 긍정적인 목소리를 냈다. 그러나 미 컴퓨터통신산업협회(CCIA) 측은 “이 초안은 오히려 기업과 EU간 불신을 초래하고 불필요한 검토과정만 추가할 뿐”이라며 우려를 내비쳤다.

한편, AI를 둘러싼 ‘규제 움직임’은 비단 유럽만이 아니다. 미 정부 당국도 AI 위험성을 고려하고 있다. 미 연방무역위원회는 최근 인종차별을 조장하고, 편향된 빅데이터에 기반한 AI 시스템 판매를 중지할 것을 촉구하고 나섰다. 또 매사추세츠를 비롯한 캘리포니아, 오리건주는 안면인식 카메라 사용을 제한하는 조치를 취하기 시작했다. 주 자체적으로 도로, 학교 등 공공장소에서의 사용을 금지하는 법안 상정에 들어간 것이다.

EU의 이번 정책초안은 여러 단계를 거쳐 최종적으로 오는 2023년 제정된다.

AI타임스 박혜섭 기자 phs@aitimes.com

 

[관련기사] EU, 군사적·비군사적 AI 사용 가이드라인 발표...안면인식기술 사용 금지 요구

[관련기사] 암스테르담·헬싱키, 시민 이해 돕는 'AI 공공 설명' 웹사이트 구축

키워드 관련기사
  • [AI 실생활 체험기] "커피도 만들고, 그림도 그려주고"...일상에 녹아든 로봇 친구
  • EBS 특집 다큐 'AI 사피엔스 시대', 디지털 소외를 넘어선 모두를 위한 AI 고민 던져
  • 인텔 vs AMD, 3세대 서버용 CPU 승자는? AMD '밀란' 시네벤치 신기록 달성