네이버·카카오, AI 윤리 대책 앞다퉈 발표...이루다 사건 대응 성격 < 산업일반 < AI산업 < 기사본문

소위 ‘이루다 사건’으로 인공지능(AI) 윤리에 대한 관심이 높아지면서 최근 국내 대기업들이 AI 윤리 대책 마련에 부쩍 주력하는 모습이다. 네이버는 17일 5개 핵심 조항을 포함한 자사 AI 윤리 준칙을 공개했다.

카카오는 같은날 AI 알고리즘 윤리 과정을 신설한 전체 직원 대상 윤리 프로그램을 시행한다고 밝혔다. 지난 1월 ‘인권경영선언문’과 ‘증오발언 근절을 위한 원칙’을 발표한데 이은 행보다.

네이버도 같은날 서울대 AI 정책 이니셔티브(이하 SAPI)와 함께 ‘인공지능 윤리: 원칙을 넘어 실천으로 - 현장에서 논하는 AI 윤리’ 웨비나를 열고 자사 AI 윤리 준칙을 발표했다.

네이버 AI 윤리 준칙 내 5개 핵심 요소는 ▲사람을 위한 AI 개발 ▲다양성의 존중 ▲합리적인 설명과 편리성의 조화 ▲안전을 고려한 서비스 설계 ▲프라이버시 보호와 정보 보안이다.

SAPI와의 협업으로 기업 외 학계 전문가 관점을 적극 반영한 것이 특징이다. 이번 준칙 마련을 위해 네이버는 2018년부터 SAPI와 협업을 시작했다. AI 원천 기술 개발보다는 서비스 제공에 집중하는 기업 성격을 살려 AI를 ‘일상의 도구’로 명명한 것도 특징이다.

현재 네이버 AI 윤리 준칙은 사실상 추상적인 골격으로만 구성된 상태지만 향후 사례를 모아 지속 업데이트할 예정이다. 특히 SAPI와 협력을 이어가면서 사례 중심의 이슈 페이퍼와 커뮤니케이션 채널 운영 경과를 담은 프로그레스 리포트를 발간할 계획이다.

자사 AI 기술 개발과 서비스 제공 전체 과정에 활용하는 것은 물론 관련 인프라를 자체적으로 마련하기 어려운 AI 스타트업에도 자사 노하우를 공유하겠다는 방침이다.

이날 행사에서 네이버 AI 윤리 준칙 발표를 맡은 송대섭 네이버 정책연구실 이사는 “기업 혼자서 (AI 윤리 준칙에 대한) 모든 내용을 만들기보다 학계 전문가와 함께 진행하면서 사회적 요구를 더욱 효과적으로 반영할 수 있었다. 산업 현장의 관점을 잃지 않으면서 학계 의견을 수용하려 노력했다”고 말했다.

기업이 AI 윤리 규칙을 만드는데 있어 사회적 요구를 반영하는 만큼 중요하게 가져가야 하는 또다른 요소는 기업만의 가치다. 송 이사는 “이번 AI 윤리 준칙에는 네이버가 중요하게 생각하는 가치를 담았다. 개별 기업마다 추구하는 방향이 다른데 이를 준칙에 포함하는 것이 중요하다”고 강조했다.

이번에 공개된 네이버 AI 윤리 준칙은 지속 업데이트될 예정이기에 완성본이라고 할 수 없다. 5개 원칙 이외에 AI 기술·서비스 기획과 개발 현장에서 바로 쓸 수 있는 구체적인 체크리스트는 마련되지 않은 상태다.

또 네이버는 현장에서 실제로 쓰일 AI 윤리 준칙이 필요하며 현재로서는 한계가 있다는 점을 인정했다. 향후 AI 윤리 준칙 업데이트를 위해 사례를 모으는 데 주력할 뜻도 밝혔다.

송대섭 이사는 “구호에 그치지 않고 어떻게 내재화시키는지가 중요하다. 구성원들에게 의미있게 쓰일 수 있어야 한다”며 “초안 작성 이후 사내에서 절차를 진행하면서 개발자, 기획자 등 구성원들의 의견을 직접 반영할 예정”이라고 밝혔다.

그는 “AI에 대한 인식차가 우리 회사 안에서만 해도 굉장히 크다. AI라고 하면 SF영화에 나오는 강인공지능부터 실제 개발에서 사용하는 코드나 모델까지 각자 다르게 떠올린다. AI 윤리 실천을 위해서는 구체적인 개발 현장 고민부터 고려해야 한다. 전용 커뮤니케이션 채널을 만들어 현장에 힘이 되어줄 것”이라고 강조했다.

현장 엔지니어, 기획자 대상 커뮤니케이션 채널을 통해 접수한 사례들은 추후 AI 윤리 준칙 개선에 지속 반영한다. 특히 SAPI와 함께 만들 이슈페이퍼에 구체적 사례들을 적극 반영, 공개하겠다는 계획이다

송 이사는 “윤리 실천에 있어 절대적 정답은 없다. 단계적 실험을 통해 가장 잘 실천할 수 있는 방법을 찾을 예정이다. 어떤 점을 실제 현장에서 고민했는지에 대한 기록이 서비스 개발에서 특히 의미가 있을 것”이라고 말했다.

그러면서 “우리 회사 내에서 뿐만 아니라 스타트업, 크게는 AI 산업 전반에 활용되면 더 큰 의미가 있겠다”고 전했다.

◆카카오, 전 직원 대상 AI 윤리 교육 프로그램 시작

카카오는 전 직원 대상 온라인 사내 교육인 '카카오 크루가 알아야 할 윤리경영'에 AI 알고리즘 윤리 교육 과정을 신설했다. AI 윤리 내용이 포함된 해당 교육은 2월 17일부터 3월 2일까지 진행된다.

해당 교육에서는 우선 카카오의 디지털 책임 구현 사례를 소개한다. 이어 카카오 인권경영선언문과 알고리즘 윤리 헌장의 각 조항을 하나씩 학습할 수 있도록 구성했다.

카카오는 2018년 1월 AI 기술 개발과 윤리에 대한 규범 내용을 담은 '알고리즘 윤리 헌장'을 발표했다. 올해 1월 4일에는 인권경영선언문을, 이루다 사건 직후인 1월 13일에는 증오발언 근절을 위한 원칙을 공개한 바 있다. 교육 자료는 모두 사내에서 직접 제작했다.

AI타임스 박성은 기자 sage@aitimes.com

[관련기사]제2의 이루다는 없다...AI 기업이 해야 할 일 3가지