‘AI의 성별과 인종편향’ 주제로 패널 토론회 열려
구글·디지털 헬스 기업 등 현역 여성 AI 전문가 참가
“모든 케이스 포용하는 데이터 구축” 강조
“여성 채용 수 적은 것도 편향적 DB 이유”
지난 13일(한국시간) 새벽 ‘AI의 성별과 인종 편향’이라는 주제로 열린 패널토론회는 AI 기술에 관한 비판적 시각을 인정하고 이를 바꾸기 위해 마련됐다.
‘더 피메일 쿼션트(the Female Quotient)’의 셸리 잴리스 대표, 애니 장-뱁티스트 ‘구글 생산제품 포용성부서’ 총책임자, 킴벌리 스털링 ‘레스메드’ 시니어 디렉터, 타냐 미쉬라 ‘마이슈어스타트’ 대표는 차별하지 않는 AI를 만들기 위한 방법에 대해 논의했다.
먼저 타냐 미쉬라 대표는 약 10년 전 처음 AI 연구를 시작할 때를 예로 들었다. 현재 AI가 갖고 있는 데이터 누락으로 인한 차별과 편향은 그 즈음부터 구축된 DB를 바꾸지 않았기 때문이라고 말했다.
미쉬라는 자신이 설립한 ‘마이슈어스타트’에 대해 “빅데이터 밖으로 밀려난 소규모 지역 내 학생들을 발굴해 멘토링하고 조기 기회 파이프라인을 구축하는 회사”라고 설명했다.
장-뱁티스트 구글 총책임자도 미쉬라 대표 주장에 동의했다. 뱁티스트 책임자는 “음성인식 등 AI 기반 제품에서 가장 필요한 것이 ‘모든 케이스(cases)’를 포용하는 데이터”라고 말했다.
또 구글은 여러 시행착오를 거쳐 다양하고 완전한 데이터를 입력(input)해 AI 제품으로써 생산(output)하기 위해 노력 중이라고 말했다. 그에 따르면 구글 어시스턴트는 인종별 액센트와 말할 때 음의 높낮이 등을 지속적으로 학습해 업데이트되고 있다.
디지털 헬스기업 ‘레스메드’의 스털링 시니어 디렉터는 “AI는 헬스케어 산업에서도 인종별 데이터 학습이 안 된 상태”라고 말했다. 특히나 “지난해 코로나19 팬데믹을 통해 의료 빅데이터가 얼마만큼 대도시·대형병원 중심으로 만들어진 것인지 확인했다”며 안타까워했다.
경제적인 이유로 의료보험에 가입하지 못 해 진료기록이 없는 소수인종·취약계층은 빅데이터에서 배제됐다. 스털링은 AI의 이러한 단점을 인정하고 기술 의존도를 낮춰야 한다고 강조했다.
AI에 ‘평등’을 요구하기란 쉽지 않은 과정이다. 네 명의 여성 AI전문가 역시 이에 공감했다. 미쉬라 대표는 “여성 연구원이나 개발자가 적은 상황에서 AI가 편향적인 것은 어쩌면 당연한 결과”라며 업계 여성 채용 중요성에 대해 설명했다.
이날 토론회는 다른 세션과 달리 여성패널로만 이뤄진 점이 이목을 끌었다. 직장 내 남녀평등을 위해 각종 캠페인과 지원 및 컨설팅을 담당하는 ‘더 피메일 쿼션트’의 셸리 잴리스 대표가 사회를 맡은 것도 주목할 만했다. 더 피메일 쿼션트는 이번 CES2021의 공식 파트너 기업 중 하나다.
AI타임스 박혜섭 기자 phs@aitimes.com
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com