EU, 21일 세계국가 중 최초로 초안 공개
4가지 AI 위험군으로 나눠 항목별 제한 명시
“개발이 한창인데 이런 규제는 실망스럽다”
“법적 틀이 있어야 오히려 사업 운영이 쉽다”
유럽연합(EU) 집행위원회가 최근 인공지능(AI) 사용에 대한 규제안을 발표한 가운데 글로벌 IT 기업들의 반응도 제각각인 것으로 나타났다. 비록 초안일 뿐이지만 주요 국가 중 최초로 공개한 만큼 관심이 모아지고 있다.
어느 기업가는 혁신가도를 달리고 있는 AI에 한계를 둘 것이라는 비판적인 견해를 내비친 반면 또다른 기업가는 이 법안이 시행되면 개인정보가 강력히 보호되면서 대중들이 AI를 보다 더 신뢰할 것이라고 내다봤다.
EU 집행위원회는 21일(현지시간) 총 108페이지 분량의 규제초안을 내놓으며 AI를 네 가지 위험군으로 나누었다. EU 위원회는 AI로 인해 발생할 수 있는 부작용(리스크)을 ▲용인할 수 없는 위험(Unacceptable Risk) ▲고위험(High-Risk) ▲제한된 위험(Limited Risk) ▲최소한의 위험(Minimal Risk)으로 분류해 각 항목에 따라 AI 사용을 제한해야 한다고 촉구했다.
규제초안이 가장 집중적으로 다루고 있는 위험군은 ‘고위험(High-Risk)’이다. EU는 현재 개인정보 유출이나 무단도용 문제를 초래하는 안면인식 기술부터 인종차별을 야기하는 불법 이민자 색출, 법정에서의 사용 등을 모두 AI로 인한 고위험으로 간주했다.
EU는 이외에도 성적이나 시험채점에 충분하지 않은 빅데이터를 사용한다든지 안전이 명확히 확보되지 않은 가운데 수술로봇을 도입하는 행태도 모두 고위험군에 포함시켰다. 이 단계에서 AI가 인간사회의 윤리를 해치고 편견을 조장할 경우 4개 항목 중 최고단계인 ‘용인할 수 없는 위험(Unacceptable Risk)’으로 격상해 AI 시스템 사용을 금지하겠다는 것이 규제안의 설명이다.
고위험군보다 아랫단계인 ‘제한된 위험(Limited Risk)’에서는 교육을 통해 사용자들이 기계와 소통하고 있다는 사실을 인지시켜줘야 한다. 예를 들어 챗봇을 활용해 정보를 얻을 경우 사용자는 사전 교육 또는 안내를 받아 챗봇이 오류가 날 가능성과 질문에 적절치 않은 답을 해도 받아들일 수 있도록 해야 하는 것이다. 챗봇 개발기업이나 도입한 곳에서 이러한 과정을 생략했을 경우에는 패널티를 받을 가능성이 있다.
AI 기반 제품이 마지막 단계인 ‘최소한의 위험(Minimal Risk)’으로 분류될 시에는 AI 기술을 제한 없이 사용할 수 있다.
월스트리트저널(WSJ)은 최근 이같은 초안내용을 두고 각계각층의 찬반의견을 집중조명했다. 먼저 미국에 소재한 AI 기반 소프트웨어 개발업체 베터클라우드의 토마스 도넬리 최고정보책임자(CIO)는 “세계적으로 AI 어플리케이션을 개발해 더 저렴하고 효율적인 판로를 계획하는 상황에서 이러한 규제안은 향후 유럽 기술 부문에 부정적인 영향을 미칠 것”이라고 경고했다.
또다른 AI 기업인 콜렉티브의 창립자인 스티브 메서는 “AI는 질병을 빠르게 고치고, 위해를 피하고, 상품과 서비스를 보다 효율적으로 공급하는 데 최적의 기술”이라며 “다양한 긍정적인 효과 창출을 감안할 때 AI를 두려워하며 제한을 두려는 움직임은 실망스럽다”고 비판했다.
그러나 싱크로니 파이낸셜의 캐롤 주엘 CIO는 유럽당국의 AI 기술 규제 조치가 “당연한 것”이라고 말했다. 주엘 CIO는 “EU에서 지속적으로 제기한 데이터보호규정법 덕분에 미 입법자들이 국민들의 프라이버시 문제를 어떻게 접근해야 할지 아이디어를 얻었다”며 “법이라는 규제 틀을 정립해 놓지 않으면 AI 기술이 더욱 보편화 될수록 더 큰 피해사례가 속출할 것”이라고 전망했다. 싱크로니 파이낸셜은 소비자 금융서비스 회사로, 편리한 자금조달 방식과 단순한 재무옵션을 제공하는 기업으로 유명하다.
BSA 소프트웨어 얼라이언스의 크리스티안 트론코소 정책책임자는 “경험상 기술에 대해 이처럼 명확한 규정이 있을 때마다 사업하는 것이 오히려 더 쉬웠다”고 말했다. BSA는 지난 1988년 마이크로소프트가 소프트웨어 저작권 침해를 저지하기 위해 설립한 글로벌조합으로 IBM, 오라클 등이 회원으로 가입돼 있다.
기업인들 사이에서도 규제안을 두고 의견이 분분한 가운데 EU 디지털 권리 네트워크는 초안 발표 직후 “여전히 AI가 편견과 프라이버시 무단 도용에 악용될 허점이 보인다”고 지적했다. 집행위원회가 명시한 것보다 더욱 강력한 제한을 둬야 한다는 것이다.
세계를 주 무대로 활약하는 다수의 IT 기업을 배출한 미국보다 빠르게 규제안을 내놓은 유럽은 초안 이후 여러 과정을 거쳐 오는 2023년 최종적으로 AI 규제법 시행에 들어갈 예정이다.
AI타임스 박혜섭 기자 phs@aitimes.com
[관련기사] 유럽연합, AI 운용에 강력한 규제 시동 걸었다
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com