인공지능(AI) 서비스 기업의 알고리즘 공개를 의무화하는 법안이 최근 발의되면서 개발자들 반대가 거세다. 신사업과 스타트업 출현을 억제하는 것은 물론, AI 기술 특성상 공개해야할 알고리즘 범위도 분명치 않다는 지적이다.
각 서비스별 알고리즘 범위를 어떻게 해석하느냐에 따라 AI 모델부터 전·후처리, 입력값까지 포함될 수 있다는 것이 AI 업계 관계자들의 주장이다. 이에 따라 기업 비즈니스 노하우를 과도하게 노출하게 될 수 있다는 우려도 나온다.
이원욱 국회 과학기술정보방송통신위원장은 이달 19일 정보통신사업자가 자사 서비스 알고리즘을 정부에 제출하는 것을 의무화하는 정보통신망법 개정안을 대표 발의했다. 법안을 발의하게 된 주요 이유로 이 위원장은 네이버, 카카오, 구글과 같은 포털 회사들의 뉴스 알고리즘 공정성 문제를 꼽았다.
[관련기사]드러난 보수편향 네이버 뉴스 편집 AI알고리즘...공정성 논란 불붙나
반면 해당 법안은 포털뿐만 아니라 커머스, 동영상플랫폼, 게임, 모빌리티플랫폼 등 광범위한 IT 분야에 적용될 것으로 보인다. 소위 이루다 사건으로 AI 윤리 문제가 크게 이슈화된만큼 AI 기업도 주요 대상이 될 전망이다.
이 위원의 페이스북 페이지에는 23일 정보통신망법 개정안 발의를 알리는 홍보물이 게재됐다. 게시물에서는 해당 법안을 “AI 시대를 맞이하는 입법”이라고 홍보하고 있다. 법안이 필요한 이유에 대해서도 “AI 시대가 유발할 수 있는 위험(▲편견과 차별 ▲개인의 자율성 부정 ▲사생활 침해 ▲신뢰할 수 없는 결과)을 막기 위함”이라고 설명한다.
기업 알고리즘 공개 필요성을 증명하는 사례로도 포털 뉴스 이외 다양한 분야 사건을 들었다. 네이버 커머스 상품과 동영상 플랫폼 콘텐츠 노출 특혜, 카카오모빌리티 택시배차 편향, 넥슨·엔씨소프트와 같은 게임사들의 확률형 아이템 허위 정보 또는 정보 공개 논란이 제시됐다.
법안 내에서 정의하는 대상을 살펴봐도 포털 뉴스 기업은 3가지 대상 중 하나에 속한다. 개정안에서는 ▲인터넷 뉴스 기사 배열 ▲거래 재화 또는 용역이 노출되는 순서·형태·기준 ▲기타 이용자 정보 안전성·신뢰성에 영향을 주는 서비스 알고리즘을 제출 대상으로 지정한다.
법안에 따르면 대상 기업들은 매년 과기정통부 장관과 방통위 위원장에게 자사 알고리즘을 의무적으로 제출해야 한다. 제출이 필요한 알고리즘 제출 방법과 절차 등 자세한 내용은 추후 대통령령으로 정할 계획이다.
◆AI 개발자들, 신사업 억제 우려...알고리즘 범위도 모호
정보통신망법 개정안 발의 소식에 많은 AI 개발자들은 부정적인 입장을 보이는 상황이다. AI가 신사업인만큼 투자와 스타트업 출현이 중요한데 규제가 앞서면 안된다는 주장이다.
국내 한 AI 기업에서 일하는 A개발자는 “AI 업계에 있는 한 사람으로서 주요 입안내용을 보니 입법을 하지 않았으면 좋겠다는 생각이 들었다. 결국 규제는 신사업을 억제하고 스타트업 출현을 막는다고 보며, 실제로 그래왔다”고 말했다.
더불어 “만약 네이버의 추천이 불만족스럽다면 다른 포탈을 사용하는 선택지가 있다. 네이버는 기업이지 공공기관이 아니며, 알고리즘은 사내 연구 성과이지 공공연구성과라고 할 수 없다”고 강조했다.
기존 SW와 달리 AI의 경우 알고리즘 범위를 정확히 지정하기 어려운 문제도 있다. 최대한 넓은 범위로 제출 알고리즘을 정의할 시 기업 영업 비밀을 상당부분 공개해야 할 것으로 예상된다. 현재 발의된 법안에서는 제출 알고리즘 대상에 대해 대통령령으로 제시한다는 내용만 명시하고 있다.
국내 유력AI 기업 핵심 개발자인 B씨는 “이전처럼 룰로 다 집어넣는 방식이면 (알고리즘 정의가) 간단하지만 지금은 다르다. 데이터부터 전체 시스템 프레임워크까지 광범위하게 관련될 수밖에 없다”고 지적했다.
C 개발자도 “알고리즘이 어디서부터 어디까지인가 생각해봐야 한다. 예를 들어 기사의 감성분석을 BERT로 한다 하면 BERT 모델만 제출하면 되는 것인가? 파라미터도 제출한다면 이를 어떻게 읽을 것인지? 전처리, 후처리, 어떤 입력값을 쓰는지까지 포함하면 비즈니스 프로그램, 노하우를 상당부분 공개하는 것”이라고 말했다.
그는 “AI에서 알고리즘이라는 것이 넓게 보면 시스템 전체가 되고, 좁게 보면 CNN(합성곱인공신경망), LSTM(장단기메모리)이 된다. 상당히 간극이 큰 것”이라고 강조했다.
대통령령으로 법안을 연결시키는 것에 대한 의문도 제기됐다. 다른 AI 개발자인 D씨는 “AI에서 알고리즘을 공개하라는 것은 기업 비밀을 오픈소스화하라는 것과 같은 느낌이다. 특히 대통령령과 연결하는 것은 숙고해봐야 한다”고 전했다.
법안을 발의한 측에서는 제출 알고리즘 범위에 대한 자세한 내용은 정하지 않은 상황이다. 이원욱 국회의원실은 AI타임스와의 통화에서 "최근 법안을 발의한 만큼 현재로서는 정해진 내용이 없다. 상임위 논의가 끝나면 과기부와 방통위에서 차근히 논의를 거칠 예정이다. 업체들 입장도 충분히 반영해 조정할 것"이라고 밝혔다.
AI타임스 박성은 기자 sage@aitimes.com
