인공지능기본법, '고영향 AI' 개념 모호성 논란

내년 1월 시행을 앞둔 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 '인공지능기본법')'이 핵심 개념인 '고영향 AI'에 대한 정의가 불분명하고, 규제의 실효성이 부족하다는 지적이 나왔다. 

또한 법안이 국내 AI 기업의 경쟁력을 약화시킬 가능성이 있으며, 광역시도 및 지방의회에서도 이에 맞춘 대응책 마련이 필요하다는 의견이 제시됐다.

'고영향 AI' 개념의 모호성, 규제 실효성 문제

지난 18일 서울 변호사회관에서 열린 '인공지능기본법의 한계와 개선 방향' 세미나에서 전문가들은 '고영향 AI'의 개념이 지나치게 포괄적이어서 법 적용의 혼란을 초래할 수 있다고 지적했다.

현재 인공지능기본법 제2조 4호는 '고영향 AI'를 "사람의 생명·신체 안전과 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템"으로 정의하고 있다.

하지만 '중대한 영향'의 기준이 명확하지 않아 실제 적용 시 논란이 발생할 가능성이 크다는 것이다. 

구태언 법무법인 린 변호사는 "EU AI Act에서 '고위험 AI'라는 개념을 분명하게 규정한 것과 달리, 한국법에서는 '고영향'이라는 다소 낯선 개념을 도입해 혼선을 초래했다"고 비판했다.

더불어 "현재 법이 고영향 AI를 규율하는 방식이 선언적 수준에 그치고 있으며, 구체적인 제재 수단은 하위 법령에 위임된 점도 문제"로 지적됐다. 

즉, 법적 구속력과 실질적 규제 효과가 부족해, 시행 후에도 실효성이 미비할 수 있다는 우려가 나온다. 

"EU AI Act가 금지해야 할 AI 기술을 명확하게 규정한 것"과 달리, "한국의 인공지능기본법은 금지 규정 없이 하위 법령에서 조정할 계획"이어서 "법적 구속력이 약하다는 점도 보완이 필요하다"는 주장이다.

국내 AI 산업의 위축 가능성

법 시행 이후, 국내 AI 기업들이 '고영향 AI' 여부를 사전 확인하고 각종 안전성·신뢰성 검증 절차를 거쳐야 하는데, 이 과정이 기업에 과도한 부담이 될 수 있다는 우려도 제기됐다.

이성엽 고려대 기술법정책센터장은 "고영향 여부를 확인하는 과정과 기본권 영향 평가 절차까지 포함하면 사실상 '3중 규제'에 해당한다"며 “이는 "기업의 혁신을 저해할 우려가 있다"고 지적했다. 

또한 구태언 변호사는 "AI 제품과 서비스 제공 시 사전 고지와 워터마크 표시 등의 의무를 부담해야 하는데, 이는 글로벌 시장에서 한국 기업의 경쟁력을 약화시키는 요인이 될 수 있다"고 경고했다.

이처럼 과도한 규제는 국내 AI 기업이 글로벌 시장에서 뒤처지는 결과를 초래할 수 있으며, 규제 불균형 문제가 발생할 가능성도 있다. 따라서 정부는 법 적용 과정에서 업계의 의견을 충분히 수렴하고, 규제의 탄력적인 집행 방안을 마련할 필요가 있다.

'고영향 AI' 규제, 어떻게 보완해야 하나

전문가들은 인공지능기본법이 실질적인 효과를 거두기 위해서는 구체적인 보완이 필요하다고 강조하고 있다. 우선, '고영향 AI'의 정의를 보다 명확히 해야 한다. 

"현재 '중대한 영향'이라는 표현이 지나치게 모호해, 산업계에서 예측 가능성이 떨어지는 만큼 사회적 합의를 거쳐 보다 구체적인 기준을 마련해야 한다"는 것이다.

또한, 규제의 실효성을 확보하기 위해 현재 선언적 수준에 그친 규율을 보다 강력하게 정비해야 한다.

"법적 구속력을 갖기 위해서는 고영향 AI에 대한 금지·제한 규정을 보다 명확하게 제시"하고, "산업 특성에 맞는 예외 조항도 마련할 필요가 있다"는 지적이 나온다.

국내 AI 산업의 경쟁력 보호도 중요한 과제다.

기업이 과도한 규제 부담을 지지 않도록 법안의 집행 방식을 탄력적으로 운영해야 하며, AI 기업의 글로벌 경쟁력을 저해하지 않도록 업계 의견을 적극적으로 반영하는 유연한 정책이 필요하다.

광역시도 및 지방의회, 어떻게 대응해야 하나

광역시도에서는 인공지능기본법 시행에 맞춰 지역 AI 산업 육성과 규제 대응을 균형 있게 추진해야 한다는 의견이 나온다. 

특히, "AI 관련 기업이 지역에서도 성장할 수 있도록 지원센터를 설립"하고, "중소기업을 위한 법률·기술 컨설팅을 제공해야 한다"는 요구가 높다. 

또한, "AI 기반 공공 서비스 개발을 활성화하고, 지역 내 AI 연구개발(R&D) 및 실증사업 지원을 확대하는 등의 전략 필요성"도 제기되고 있다.

전문가들은 "지방의회 차원에서는 인공지능기본법 시행과 맞춰 '고영향 AI' 관련 조례를 제정하고, 공공부문에서 AI 활용 시 적용 여부를 판단할 기준 수립"을 강조했다. 

또한, "AI 관련 법적 규제에 대비할 수 있도록 중소기업과 스타트업을 위한 교육 및 지원 프로그램을 운영하는 것도 중요하다"고 덧붙였다.

"인공지능기본법은 AI 기술 발전과 신뢰 기반 조성을 목표로 하지만, '고영향 AI' 개념의 모호성과 규제 실효성 부족, 국내 기업의 경쟁력 약화 가능성 등의 문제가 제기되고 있기 때문이다"는 것이다. 

이에 따라 "법 시행 이후 혼란을 최소화하기 위해 보다 명확한 법적 정의와 실질적인 규제 체계를 마련"해야 하며, "AI 기업의 혁신을 저해하지 않는 유연한 법 집행"이 요구된다.

광역시도 및 지방의회에서는 이에 맞춰 AI 산업 발전과 법적 대응을 함께 고려해야 할 것으로 보인다. 

지역 차원의 지원 정책을 마련하고, 관련 조례 및 시행규칙을 사전에 정비함으로써 인공지능기본법 시행과 발맞춘 체계적인 대응이 요구된다.

양준석 기자 kailas21@aitimes.com