미 뉴욕대·호주 멜버른대 등 보고서 발표...2019년 미 뉴욕대 AI나우 연구소 보고서 내용
페이스북·구글 내 지위 높은 여성 인력 15% 선에 불과
애초에 여성 지원자에 대한 과거 데이터가 부족이 원인

(사진=셔터스톡).
(사진=셔터스톡).

편견을 조장하고 성차별적인 AI 알고리즘 문제점은 여러 번 논의돼왔다. 특히 AI를 도입한 입사면접이 늘어나면서 채용과정에서 여성이 받는 상대적 차별은 어느 한 기업에만 국한된 것이 아니다. 애널리틱스 인사이츠는 27일(현지시간) 각종 사례를 들어 얼마만큼 AI 알고리즘에 남녀차별이 뿌리박혀 있는지 집중 조명했다.

전문가들은 현재 AI 기술 현황을 두고 많은 결함을 지적한다. 2019년 미 뉴욕대 AI나우 연구소는 ‘차별하는 시스템’이라는 제목의 보고서를 통해 AI 업계에서 일하는 여성의 비율을 밝혔다.

보고서에 따르면 AI 연구 및 기술 개발 분야에서 남성보다 높은 지위에 있는 여성은 33% 미만인 것으로 나타났다. 이어 페이스북과 구글의 AI 연구진 중 여성이 차지하는 비율은 각각 15%와 10%에 불과하다고 지적했다.

이에 앞서 2018년 말 세계경제포럼(WEF)은 인사 데이터를 수집하고 그에 기반한 AI 알고리즘으로 채용할 경우 차별이 일어날 수 있다고 예측했다. 여성 지원자에 대한 과거 데이터가 부족하기 때문이다.

로이터 통신은 아마존이 개발한 AI 채용 시스템이 ‘여성’이라는 단어가 포함되면 이력서를 채택하지 않고 10년 이상의 남자 경력직만 뽑는다고 꼬집었다. 결국 아마존은 시스템의 문제점을 인정하고 폐기처분했다.

AI의 이같은 편견의 가장 큰 이유는 훈련시킨 인간이 원인이다. 멜버른 대학 연구진은 ‘성 불균형의 결과로 보는 AI 편향과 윤리’ 보고서에 진행한 실험에 관해 기술했다. 연구진은 각 기업에서 데이터 애널리스트를 비롯 채용 담당자, 재무팀장을 맡고 있는 이들에게 무작위로 선별한 실제 이력서 40개를 평가하도록 했다. 실험 결과 같은 스펙에도 대부분 남성을 더 선호했다.

레아 루페너 멜버른대 교수는 “이는 결국 균형잡힌 빅데이터가 아닌 남성 중심의 데이터 축적으로 이어질 것”이라며 “알고리즘이 지원자 장점을 고려하지 않고 성별 편견을 조장할 수 있다”고 지적했다.

연구팀은 이를 개선하기 위한 목적으로 각 작업에 대한 후보자 적합성을 평가하는 자동화·반자동 알고리즘을 개발했다. 이들은 시스템 개발 과정을 소개하면서 “AI 알고리즘은 인간의 개입 없이 공정성과 중립성을 보장하고 회사에 이익을 가져다주는 동시에 다양한 애플리케이션을 분류할 수 있는 최적의 효율성과 정확성을 제공해야 한다”고 지적했다.

멜버른대 디지털 윤리센터 연구원을 역임하고 있는 마크 청 박사는 “현재 대부분 기업에서 채용 시 활용하는 AI 알고리즘은 남성 지원자를 더 선호했던 과거의 채용 패턴을 기준으로 이력서를 평가한다”고 밝혔다. 청 박사는 이어 “이러한 알고리즘을 개선하지 않는다면 채용이 아닌 합법적 휴가를 신청한 여직원들에게도 불이익이 있을 수 있다”고 경고했다.

그렇다면 편향적 AI 알고리즘의 근본적 원인은 무엇일까? AI 알고리즘은 대량의 정형 및 비정형 데이터를 사용하여 훈련하는데 데이터가 일치하지 않을 경우 기존 시스템에서 편견이 확산될 수 있다. 또 데이터에 여성 지원자를 표현하는 키워드 등이 부족하거나 결여되어 있는 경우, 알고리즘은 남성 속성에 기초한 결과를 나타낸다.

애널리틱스 인사이츠는 “결국 모든 기술은 양날의 검”이라고 표현했다. 인간은 진화하는 AI 기술의 장점을 인정하고 활용하는 동시에 산업 전반에 걸친 부정적인 영향을 빼기 위한 노력도 지속해야 한다. 이를 바로잡지 않는다면 향후 AI로 인한 피해사례가 늘어나고 인간을 더욱 편견으로 가를 것이다.

 

AI타임스 박혜섭 기자 phs@aitimes.com

[관련기사] 인텔, 올해 부사장 승진자 27%가 여성…차별 없는 '다양성과 포용' 강조

[관련기사] 롤스로이스, 자체개발 AI 윤리 도구 소프트웨어 무료 배포 

키워드 관련기사
  • [글로벌 Lab 젊은 과학자] “대칭구조 반영 딥러닝으로 AI 핵심 문제 해결에 도전”...딥마인드 김현직 박사
  • IDC, "90% 기업 완전 자율형 데이터센터 계획하고 있어"
  • AI중심도시 광주 속도내는데…광주시교육청 예산 핑계 ‘미지근’