국회, AI 기본법제정 박차…진흥과 규제 균형점 모색

국회 과학기술정보방송통신위원회(이하 과방위) 법안심사소위원회는 지난 21일 인공지능(AI) 기본법 발의안 19건을 병합 심사하여 통과시켰다. 

이번 법안은 AI 산업의 진흥과 규제를 균형 있게 담아내며, 연내 법제화에 대한 기대감을 높이고 있다.

'고영향 AI' 규제 도입으로 안전성 강화

법안의 핵심 내용 중 하나는 '고영향 AI' 개념의 도입이다. 이는 의료기기나 에너지 등 사람의 생명·신체, 기본권 보호에 중대한 영향을 미칠 수 있는 AI를 의미한다. 

사업자는 자사의 AI가 고영향 AI에 해당하는지 과학기술정보통신부 장관에게 자율적으로 확인을 요청할 수 있으며, 장관이 고영향 AI로 인정하면 안전성 및 신뢰성 검증을 요구할 수 있다. 

또한, 고영향 AI 관련 제재 조항도 포함되어 있다. 사업자가 고영향 AI를 이용자에게 고지하지 않거나 정부의 시정명령을 따르지 않을 경우 3,000만 원 이하의 과태료가 부과된다. 생성형 AI 사업자 역시 이를 이용자에게 고지하지 않으면 동일한 과태료가 부과된다. 

AI 생성 콘텐츠에 워터마크 의무화

최근 연예인 딥페이크 동영상 유포, AI 기반 사칭 보이스피싱 등 AI 범죄가 증가함에 따라, 법안은 AI로 생성한 영상이나 사진에 워터마크를 의무적으로 표시하도록 규정했다. 

이는 AI 생성 콘텐츠의 출처를 명확히 하여 저작권 분쟁을 예방하고, 악의적인 활용을 방지하기 위한 조치다. 

또한 법안은 국외에서 이뤄진 행위라도 국내 시장과 이용자에게 영향을 미치는 경우 법을 적용하며, 오픈AI, 마이크로소프트(MS), 구글 등과 같은 글로벌 빅테크 기업은 국내 대리인을 의무적으로 지정해야 한다. 

이들 기업은 국내 대리인을 통해 정부의 안전성·신뢰성 확보 조치 이행에 필요한 지원을 제공해야 하며, 대리인 미지정 시 3,000만 원 이하의 과태료가 부과된다. 

과학기술정보통신부 장관은 3년마다 AI 기본계획을 수립·시행하며, 이는 국가AI위원회의 심의·의결을 거치게 된다. 

대통령이 위원장을, 민간위원이 부위원장을 맡는 국가AI위원회 내에는 전문 분야별 분과위원회와 자문단이 구성될 수 있다. 또한, AI 정책센터와 AI 안전연구소 설립 근거도 마련되었다. 

향후 절차와 업계의 반응

이번 법안은 이르면 이달 말 과방위 전체 회의에서 의결될 예정이며, 이후 법제사법위원회 심사와 본회의 의결 절차가 남아있다. 

업계는 AI 기본법 마련 자체에 대해서는 환영하는 입장이지만, AI 기술이 빠르게 발전하고 변화하는 만큼 일괄적인 규제보다는 유연한 적용이 필요하다는 의견을 제시하고 있다. 

특히, 고영향 AI의 구체적 범위, 해외 기업의 국내 대리인 지정 기준, 과태료 부과 세부 기준 등이 향후 쟁점이 될 것으로 보인다. 

업계 관계자는 "AI 기본법이 마련돼 제도적 기반이 생긴다는 점은 긍정적"이라면서도 "시행령 단계에서 고영향 AI의 범위가 지나치게 넓어지거나 규제가 경직되면 신생 기업들의 혁신이 제한될 수 있다"고 우려했다. 

이어 "글로벌 경쟁이 치열한 AI 분야에서 국내 기업들이 뒤처지지 않으려면 안전성과 혁신성의 균형이 중요하다"며 "시행령 마련 과정에서 업계의 의견이 충분히 반영되길 기대한다"고 말했다.

양준석 기자 kailas21@aitimes.com