“고위험군 AI 기술이 심각한 윤리적 원칙 위반과 위험을 초래할 경우 AI의 자기학습 능력을 비활성화 해야 하며 완전한 인간 통제가 되게 복원해야 한다···고위험 AI 기술 운영자들은 자동차에 드는 것과 유사한 보험을 들어 사고시 책임을 져야 한다···AI의 도움을 받은 인간 창작물과 AI가 만들어 낸 창작물을 구분하는 것이 중요하지만 지재권은 인간에게만 부여돼야 한다···”
유럽연합(EU) 의회가 AI 시대를 맞아 발생할 제반 분쟁과 사고에 대비해 이같은 내용 등을 담은 포괄적 역내 첫 AI입법(권고)안을 채택했다고 19일(현지시각) 공식 발표했다.
EU의회 발표에 따르면 이 AI법(권고)안은 ▲시민 보호와 미래를 이끌 인공지능(AI) 기술 개발 육성 사이의 균형점 모색 ▲개인과 기업 비즈니스 보호를 위한 미래지향적 민사상 책임제 ▲효과적 지적재산(IP)시스템 및 개발자들 보호를 위한 안전장치 마련 등 3가지 핵심원칙에 기반해 마련됐다.
EU의회는 “이번 입법은 EU가 AI 발전의 글로벌 리더가 될 수 있는 발판이 될 것”이며 “위원회의 AI 입법안은 내년 초 제출될 것으로 예상한다”고 밝혔다.
이로써 EU의회는 AI법규에 포함돼야 하는 윤리, 책임, 지적재산권 관련 사항 권고안을 제시한 최초의 기관중 하나가 됐다.
이날 EU는 발표문에서 “유럽의회 회원국들(MEPs)이 혁신을 촉진하고 윤리적 기준과 기술에 대한 신뢰도를 높이기 위해 EU가 AI를 가장 잘 규제할 수 있는 방안에 대한 권고안을 채택했다”고 안 채택 배경을 설명했다.
EU의회가 AI법규 권고안의 큰 줄기를 이루는 3가지 핵심 원칙과 사례는 다음과 같다.
◆AI 윤리 틀(프레임워크)
이반 가르시아 델 블랑코(사민진보연맹·스페인)의원이 주도한 이 입법안 내용은 유럽위원회(EC)가 역내에서 AI·로봇 및 관련 기술(소프트웨어·알고리즘·데이터 등 포함)을 개발·배치·사용할 때 지켜야 할 윤리적 원칙 및 법적 의무를 정한 초안을 제출하라고 촉구하고 있다.
또 “미래 법률은 인간 중심 및 인간이 만든 AI, 안전, 투명성과 책임성, 편향과 차별에 대한 보호, 시정권(배상권), 사회·환경적 책임, 프라이버시 및 데이터 보호에 대한 존중 등 몇 가지 지침에 따라 제정돼야 한다”고 쓰고 있다.
이 안의 핵심은 “자기 학습 능력을 갖는 AI 등 고위험군 AI 기술은 언제든지 인간의 감시가 가능하도록 설계돼야 한다. AI기능이 심각한 윤리적 원칙 위반과 위험을 초래할 경우 AI의 자기학습 능력을 비활성화해야 하며 완전한 인간 통제가 되게 복원해야 한다”는 내용이다.
이 입법안은 찬성 559표, 반대 44표, 기권 88표로 채택됐다.
◆AI로 인한 피해 발생시 책임
악셀 보스 의원(유럽인민당·독일)이 주도한 이 입법안은 미래 지향적 민사 책임 틀을 요구하고 있는데 고위험 AI를 운용하는 사람들이 이로 인해 발생하는 모든 피해에 대해 엄격한 책임을 지도록 했다.
EU의회는 “명확한 법적 틀은 기업에 법적 확실성을 제공함으로써 혁신을 촉진하는 한편, (AI로 인해 발생할)위험할 수 있는 활동들을 억제함으로써 시민을 보호하고 AI 기술에 대한 신뢰를 증진시킬 것”이라고 말했다.
이 입법안은 “AI법이 ▲생명, 건강, 물리적 무결성, 재산을 해치거나 손상시키거나 ▲‘검증 가능한 경제적 손실’과 직결되는 엄청난 무형의 손실을 초래한 물리적, 또는 가상의 AI 활동에 적용돼야 한다”고 적시했다.
EU의회 회원국들은 “고위험 AI 기술은 여전히 드물지만, 운영자들은 자동차에 드는 것과 유사한 보험을 들어야 한다”고 믿고 있다.
이 입법안은 찬성 626표, 반대 25표, 기권 40표로 채택됐다.
◆지적재산권.
스테판 세주르네 의원(신생유럽당·프랑스)이 발의한 보고서는 EU가 글로벌 AI 리더십을 갖기 위해서는 혁신적 AI 개발자를 보호하기 위한 효과적인 지재권(IPR)제도와 EU 특허제도 보호장치가 필요하다는 점을 분명히 하는 한편 이것이 인간 창작자의 이익이나 EU의 윤리를 희생시켜서는 안 된다고 강조했다.
EU의회 회원국들은 AI의 도움을 받은 인간 창작물과 AI가 만들어 낸 창작물을 구분하는 것이 중요하다고 보고 있다. 이들은 AI가 법인격(legal personality)을 가져서는 안 된다고 적시했다. 따라서 지재권 소유는 인간에게만 부여되어야 한다. (*로봇이 법적 인격을 갖는다는 것은 법적 계약을 체결하고 소송을 제기하고 소송을 당하는 등 일정한 법체계 내에서 법적 권리와 의무를 가질 수 있는 능력을 갖는다는 것을 의미한다.)
세르주네 의원의 보고서는 저작권, 자료 수집, 영업 비밀, 알고리즘의 사용과 딥페이크 등에 대해서 자세히 설명하고 있다.
이 보고서는 찬성 612표, 반대 66표, 기권 12표로 채택됐다.
