방통위 추진 'AI 기반 추천서비스 기본원칙'에 업계·소비자 반응 엇갈려

서비스 투명성과 공정성 제고 위해 권고하는 자율적 실천 규범
업계, 정부 개입 따르고 시장 원칙에도 위반한 규범이라고 비판
소비자, 보호 정책 환영...소비자 역량 강화 등 정책적 배려도 필요
학계, 사업자와 소비자를 모두 존중하는 기본원칙이 수립돼야

방송통신위원회가 마련한 '인공지능(AI) 기반 추천서비스 이용자 보호를 위한 기본원칙(안)'에 업계와 소비자간 의견이 엇갈렸다.

업계에서는 이번 기본원칙이 이윤 창출을 목적으로 하는 시장 원칙에 반하고, 회사의 기밀을 정부에 제공해야 할 여지가 있다고 우려했다.

소비자 측은 디지털 미디어가 소비자에게 미치는 영향이 큰 만큼, 기본원칙 취지에 공감하고 기업 측에서 알고리즘까지 공개해 소비자 보호에 노력을 기울여야 한다고 주장했다.

'AI 기반 추천서비스 이용자 보호를 위한 기본원칙(안)'이 뭐길래?

방통위가 추진하는 AI 기반 추천서비스 기본원칙은 서비스 투명성과 공정성을 높이기 위해 서비스 제공자에게 권고하는 자율적인 실천 규범이다. 공정성과 투명성, 책무성을 3대 핵심 원칙으로 ▲이용자를 위한 정보 공개 ▲이용자의 선택권 보장 ▲자율검증 실행 ▲불만 처리 및 분쟁 해결 ▲내부 규칙 제정을 실행 원칙으로 두고 있다.

AI 기반 추천서비스 이용자 보호를 위한 기본원칙의 구성. (사진=방송통신위원회 유튜브 캡쳐)

이 기본원칙에 따르면 서비스 제공업체는 AI 기반 추천서비스를 제공할 때 서비스를 제공한다는 여부와 알고리즘을 제외한 콘텐츠 배열의 기준 등을 소비자에게 제공해야 한다. 또 이용자에게 미치는 영향을 평가하고 위험성을 상시 관리할 수 있는 자율검증 체계도 갖춰야 한다. 이용자 간 분쟁을 적정하게 해결하기 위한 전담 조직을 설치·운영해야 하고 추천서비스 사용 및 관리에 관한 내부 규칙을 자율적으로 제정해 공개해야 한다.

정부는 추천서비스 제공자가 기본원칙을 효과적으로 이행할 수 있게 이해관계자와 전문가 의견을 반영해 실행 가이드와 지원정책을 수립할 수 있다. 또 추천시스템의 투명성과 공정성을 향상하는 방안을 모색하기 위해 정책자문기구를 둘 수 있다. 이용자의 AI 활용 역량을 강화하는 방안도 마련이 가능하다.

AI 기반 추천서비스 이용자 보호를 위한 기본원칙중 핵심 원칙. (사진=방송통신위원회 유튜브 캡쳐)

권은정 정보통신정책연구원 부연구위원은 20일 열린 'AI 기반 추천 서비스 이용자 보호를 위한 기본원칙(안) 공개 토론회' 자리에서 "(해당 기본원칙은) 2020년 협의회가 출범하면서 초안이 마련됐고 지금은 산학연과 시민의 의견을 반영하고 있다"면서 "향후 기본원칙의 적용 범위에 대해 심도 깊은 방안을 마련하고 콘텐츠 유형별 접근 방안과 실행 가이드 마련도 필요하다"고 설명했다.

한상혁 방송통신위원회 위원장은 "AI 기반 서비스는 생활 편리함과 삶의 질 높여주지만 그 이면에는 기술 오용 등 부정적 측면이 있다"면서 "부정적 영향을 줄이고 이용자 보호를 위한 합리적이고 자율적인 최소한의 규범이 필요하다"며 기본원칙 취지를 밝혔다.

한상혁 방송통신위원회 위원장은 "이용자 보호를 위한 합리적이고 자율적인 최소한의 규범이 필요하다"고 설명했다. (사진=방송통신위원회 유튜브 캡쳐)

권호열 정보통신정책연구원장은 "(기본원칙은) AI 활용으로 인해 이용자권익이 약화 되거나 배제되지 않도록 서비스 주체가 해야 할 규범"이라며 "기본원칙을 마련하는 시도는 산업계 혁신 성장을 위한 노력"이라고 강조했다.

업계, 시장원리 반해...정부 개입도 우려

31일 AI 업계 관계자는 기자와 통화에서 방통위가 추진하는 AI 기반 추천서비스에 우려를 표했다. 그는 "(해당 기본원칙으로) 많은 AI 업체가 사업 운영에 불안을 표하고 있다"면서 "소비자 보호를 위해 기본 요소를 제공하는 건 당연하지만 사업 운영에 정부 개입이 필연적으로 따를 것으로 보인다"고 말했다. 이어 "AI는 글로벌 시장에서 한국이 경쟁력을 갖출 수 있는 중요한 시장으로 자리매김하고 있는데 아무리 자율규범이라도 규제가 생기면 사업 성장에 방해가 될 것"이라고 지적했다.

업계 관계자의 지적은 20일 있었던 토론회에서 사업자 의견을 대신한 한국인터넷기업협회와 KT의 의견과 일치한다.

권세화 한국인터넷기업협회 실장은 토론회에서 기본원칙에 대해 우려를 표하면서 비현실적인 원칙이라고 지적했다. 그는 "기본원칙은 시장경쟁원리에 반한다"면서 "추천서비스는 결국 소비자에게 더 좋은 서비스를 소개하고 수익을 창출하는데 목적이 있는데 기본원칙은 이 특수성을 무시한 채 모두에게 똑같은 추천 결론이 나오게 하고 있다"고 지적했다. 이어 "과연 이것이 공정한지 의문"이라고 말했다.

권세화 한국인터넷기업협회 실장은 "기본원칙은 시장경쟁원리에 반하고 정부 개입이 될 수 있다"고 비판했다. (사진=방송통신위원회 유튜브 캡쳐)

또 그는 기본원칙에 정부가 기업에 개입을 하려는 의지가 보인다면서 비현실적이라고 지적했다. 그는 "기업 내부에 전단조직을 운영하고, 정기적으로 보고서를 발간하게 하는 것은 정부가 언제든 기업을 관리하고 감독한다고 볼 수 있다"면서 "통제 가능한 범위에서 AI를 개발하라고 규정하는 것으로 보인다"고 우려했다.

박정석 KT 정책팀장은 AI 기반 추천 리스크를 좋지 않은 시선으로 보는 것을 걱정했다. 폭력적인 영화나 영상을 좋아하는 이용자에게 해당 서비스를 집중적으로 추천하는 게 과연 문제가 있을까라는 지적이다. 그는 "매월 좋아하는 영상을 보기 위해 비용을 내는 사람에게 관련 서비스를 추천하는 게 과연 문제일까"라면서 "게다가 우리가 추천하는 영상은 모두 합법적인 것"이라고 설명했다.

박정석 KT 정책팀장은 "이용자에게 알고리즘 선택권을 주는 것이 아닌 매개변수 선택을 주는 것이 맞다"고 설명했다. (사진=방송통신위원회 유튜브 캡쳐)

박 팀장은 이용자에게 알고리즘 선택권을 주는 것에 대해서도 기술적 한계가 있다고 지적했다. 서비스 구현을 위해 제공하는 알고리즘은 하나이기 때문에 어떤 알고리즘을 선택하라고 하는 건 불가능하다는 설명이다.

그는 "알고리즘 선택이 아닌 성별이나 연령대에 따라 추천을 하는 매개변수를 선택하라는 것은 가능할 것"이라며 "알고리즘 선택을 하라는 건 잘못된 규정"이라고 지적했다.

소비자 측, 진정한 소비자 보호 위한 방안 필요

소비자 측은 소비자 보호를 위해 AI 추천서비스 기본원칙을 세우는 것에 찬성했다. 단, 소비자 역량 강화를 현실적으로 실천할 방안도 필요하다고 주장했다.

정지연 한국소비자연맹 사무총장은 "AI와 데이터가 중요해지는데 인간 중심 가치를 바로 세우고 시민사회와 국가가 함께 만들어가야 한다"면서 기본원칙 수립을 찬성했다.

그는 소비자의 투명성을 위해 기업에서 알고리즘 공개도 생각해봐야 한다고 밝혔다. "기업에서 문제가 됐을 때 기업에서 알고리즘을 핑계로 숨는 경우도 많았다"면서 "AI 기반 핵심서비스는 알고리즘인데 이것이 제외된다면 소비자 보호가 될 수 있을지 모르겠다"고 지적했다.

정지연 한국소비자연맹 사무총장은 "투명성과 진정한 소비자 보호를 위해서는 알고리즘 공개도 필요하다"고 주장했다. (사진=방송통신위원회 유튜브 캡쳐)

정 사무총장은 취약계층을 중심으로 한 소비자 역량 강화도 필요하다고 설명했다. 그는 "어린이와 청소년의 경우는 성인에 비해 합리적 구매 판단에 미흡할 수 있다"며 "추천서비스에 대한 폐해가 우려되는 만큼 소비자 역량 강화를 할 수 있는 정책적 배려도 필요하다"고 말했다.

윤명 소비자시민모임 사무총장도 소비자 역량 강화를 강조했다. 그는 "투명성이 아무리 잘 제공된다 하더라도 이용자가 받아들이고 제대로 된 선택을 해야 한다"면서 "소비자 역량 강화가 됨과 동시에 투명성이 제공돼야 진정한 알 권리가 반영될 것"이라고 말했다.

윤명 소비자시민모임 사무총장은 "소비자 역량 강화와 투명성이 함께 제공돼야 한다"고 말했다. (사진=방송통신위원회 유튜브 캡쳐)

학계, 데이터 수집 공개 및 제3자 리스크 관리 등 보완 내용 조언

학계에서는 기본원칙 필요성에 공감하면서도 사업자와 소비자를 모두 존중하는 기본원칙이 설립되길 희망했다. 지금보다 더 명확한 내용을 전달할 수 있는 가이드라인을 제시할 수 있는 조언도 아끼지 않았다.

이수영 카이스트 명예교수(전 카이스트 인공지능연구소장)는 기업에서 알고리즘을 제시하는 것보다 어디서 데이터를 어떻게 수집했는지를 공개하는 것이 더 필요하다고 설명했다.

이수영 카이스트 명예교수는 "알고리즘보다 데이터 수집 경로와 처리 공개가 더 중요하다"고 밝혔다. (사진=방송통신위원회 유튜브 캡쳐)

이 교수는 "연구개발자 입장에서 AI를 학습시키는 것보다 데이터를 준비하는데 훨씬 많은 시간을 소모한다"면서 "문제가 발생하는 이유는 데이터를 제대로 분류·처리하지 않고 학습을 시켜 발생하기 때문에 데이터를 어떻게 수집했고 가공했는지를 알게 하는 게 더 중요하다"고 설명했다.

윤혜선 한양대 법학전문대학원 교수는 기업에서 리스크 관리를 할 것이 아니라 제3자가 해야 한다고 설명했다. 이용자에게 미치는 영향을 평가하고 위험성을 상시 관리할 수 있는 자율검증 체계를 공신력있는 기관에서 해야 한다는 주장이다.