방송통신위원회(방통위)가 오는 3월 28일부터 시행하는 '생성형 인공지능 서비스 이용자 보호 가이드라인'을 발표했다.
생성형 인공지능(AI) 기술이 급속도로 발전하는 가운데, 윤리적 문제와 이용자 피해를 방지하기 위한 가이드라인의 필요성이 지속적으로 제기돼 왔다.
이에 따라 방통위는 AI 서비스 제공자들이 준수해야 할 6가지 실행 방식과 4가지 기본 원칙을 제시하며, AI 산업의 발전과 함께 신뢰성 확보를 위한 방안을 마련했다.
전남도는 국내 최대 AI 투자 계획(최대 50조원)을 추진하며 AI 산업 중심지로 도약하려 하고 있다. 하지만 AI 윤리와 책임 문제를 간과할 경우, 장기적으로 산업 성장에 걸림돌이 될 가능성이 크다.
따라서 이번 방통위 가이드라인을 반영하여 AI 산업을 육성하는 동시에 윤리적 기반을 함께 구축하는 것이 중요하다.
AI 산업의 윤리적 프레임 구축, 전남도에 필수적인 과제
전남도는 AI 산업 육성을 목표로 대규모 투자 계획을 수립했으며, AI 기반 연구소와 데이터센터 조성을 진행 중이다.
그러나 AI 서비스의 윤리성과 신뢰성이 확보되지 않으면 기업 유치와 글로벌 시장 진출에 어려움을 겪을 수 있다.
따라서 AI 개발 및 서비스 운영 과정에서 인격권 보호, 데이터 관리, 차별·편향 방지, 투명성 강화 등의 원칙을 준수할 필요가 있다.
특히 AI 기업들이 개발하는 시스템이 차별적 정보나 편향된 데이터를 생성하지 않도록 검토하는 절차를 마련해야 한다.
또한 이용자들이 AI가 생성한 콘텐츠임을 명확히 인지할 수 있도록 정보 제공 방식도 정비해야 한다. 이러한 조치들은 AI 기술이 신뢰받는 환경에서 성장할 수 있도록 돕는 역할을 하게 된다.
AI 학습 데이터의 관리도 중요한 요소다. 전남도 내 AI 기업들은 데이터 수집과 활용 과정에서 이용자의 동의를 명확히 받는 절차를 마련해야 하며, 기업 내 데이터 관리 책임자를 지정해 신뢰성을 높여야 한다.
AI 기술이 실제 서비스로 제공될 때는 부적절한 콘텐츠가 생성되거나 유통되지 않도록 예방 시스템을 구축해야 한다.
전남도 DJeGRP와 방통위 가이드라인의 연계 필요성
전남도는 DJeGRP(Digital & AI 기반 지역 성장 프로젝트)를 통해 AI 산업 육성을 위한 종합적인 전략을 추진하고 있다. 이 프로젝트가 방통위의 가이드라인과 조화를 이루도록 정비하는 것이 필수적이다.
우선 AI 데이터센터와 연구소 조성 과정에서 윤리 검증 기능을 포함해야 한다.
전남도는 나주·광주 AI 클러스터를 중심으로 연구시설을 확대하고 있지만, 이곳에서 개발되는 AI 모델의 윤리성을 점검하는 별도의 연구소를 운영할 필요가 있다.
학습 데이터의 편향성을 줄이기 위해 AI 데이터 검수 시스템을 구축하고, 차별적이거나 부적절한 콘텐츠를 생성하지 않도록 모니터링해야 한다.
AI 기술이 스마트팜과 수산업에 적용될 때도 방통위 가이드라인을 고려해야 한다.
AI가 농업 및 해양 데이터를 분석해 제공하는 정보가 정확한지 검토하는 절차를 마련해야 하며, 이용자 보호 체계를 갖춰야 한다.
또한 AI 기반 관광산업이 성장하는 가운데, 추천 시스템의 투명성을 높이고 소비자 보호를 강화하는 방안을 마련할 필요가 있다.
AI 기반 공공 서비스에서도 방통위 가이드라인을 준수하는 정책이 필요하다. 전남도가 도입을 추진하는 AI 행정 서비스의 경우, 신뢰성과 정확성을 확보하기 위한 관리 체계를 구축해야 한다.
특히 공공 데이터를 AI가 활용하는 경우, 이용자의 정보 보호를 위한 별도의 지침을 마련해야 할 것이다.
AI 산업이 시대에 뒤처지지 않기 위해 반드시 필요한 것
전남도가 AI 산업을 지속적으로 발전시키려면, 윤리적 접근을 병행해야 한다. 이를 위해 먼저 AI 윤리 정책과 법제도를 정비하는 것이 필수적이다.
현재 AI 관련 법규가 부족한 상황에서, 전남도 차원에서 자체적인 윤리 지침을 마련하고 기업들이 이를 준수하도록 유도하는 조례를 제정하는 것도 필요하다.
AI 전문 인력 양성 또한 중요한 요소다. AI 개발자뿐만 아니라 윤리적 AI 운영을 담당할 전문가를 양성하는 교육 프로그램을 확대해야 한다.
전남도 내 대학과 연구기관이 협력하여 'AI 윤리 및 법제도' 과목을 개설하고, AI 기업들이 윤리적 기준을 충족할 수 있도록 정기적인 교육을 제공해야 한다.
전남도가 AI 산업을 글로벌 수준으로 발전시키려면, 국제 AI 윤리 기준을 준수하는 전략을 마련해야 한다.
또 유럽연합(EU)의 AI 규제안이나 OECD의 AI 원칙을 참고하여, 전남 AI 기업들이 해외 시장 진출 시 신뢰를 얻을 수 있도록 지원해야 한다.
AI 기업이 해외 고객을 대상으로 서비스를 제공할 경우, 글로벌 기준을 만족하는 윤리적 AI 정책을 따르도록 조언하고 가이드라인을 제공할 필요가 있다.
AI 산업 발전과 윤리적 규제가 충돌할 가능성은?
일각에서는 "AI 윤리 규제가 산업 성장을 저해할 것"이라는 우려도 제기된다. 하지만 AI 산업과 윤리적 규제는 반드시 상충하는 개념이 아니다.
오히려 "AI의 신뢰성이 보장될 때 기업과 이용자 간의 신뢰가 형성되며, 장기적으로 AI 산업의 성장을 촉진하는 역할을 할 수 있다"는 긍정적인 목소리도 많다.
즉, "AI 기업들이 새로운 규제로 인해 부담을 느낄 가능성이 있지만, 장기적으로는 AI 시장에서 경쟁력을 갖추는 데 도움이 될 것이다"는 전망이다.
"글로벌 AI 기업들도 신뢰성과 윤리성을 강조하는 방향으로 나아가고 있"으며, "윤리적인 AI 정책을 도입한 기업들이 더 많은 투자를 유치하는 사례도 늘어나고 있다"는 것이다.
전남의 AI 기업들도 방통위 가이드라인을 수용하면서 경쟁력을 확보할 수 있도록, 법적·윤리적 교육과 가이드 지원이 함께 이뤄져야 한다.
AI 개발 과정에서 윤리적인 문제를 사전에 해결하는 시스템을 갖추면, 향후 발생할 수 있는 법적·사회적 문제를 예방하는 효과도 기대할 수 있다.
전남도가 준비해야 할 미래 전략
전남도는 AI 산업 육성과 함께 윤리적 AI 정책을 병행해야만 신뢰를 확보하고 지속적인 성장을 이끌어갈 수 있다.
AI 윤리 정책을 체계적으로 정비하고, 기업 및 연구기관을 대상으로 윤리 교육을 강화하며, 글로벌 AI 기준을 준수하는 전략을 마련해야 한다.
특히 AI 윤리 정책과 기술 혁신이 조화를 이루도록 전남도가 주도적으로 대응해야 한다.
신뢰받는 AI 생태계를 조성하면, 전남은 국내뿐만 아니라 글로벌 AI 시장에서도 경쟁력을 갖출 수 있을 것이다.
AI 산업의 발전과 윤리적 대응을 함께 추진하는 것이 전남도의 AI 중심지 도약을 위한 필수적인 과제가 될 것이다.
양준석 기자 kailas21@aitimes.com
