인공지능(AI)에 의해 사람이 해고된 사례가 아마존에서 나왔다. 아마존 배송 업무를 하던 노동자는 AI로부터 "일을 제대로 못하고 있으니 해고하겠다"는 내용의 메일을 받은 것. 해당 직원은 AI 평가가 잘못됐다고 분노했다.
28일(현지시간) 블룸버그에 따르면 아마존에서 4년간 배송업무를 해오던 스테판 노르만딘(Stephen Normandin)은 AI에 의해 해고됐다. 군인 출신인 그는 전역을 하고 일반인이 자차로 배송을 할 수 있는 '아마존 플렉스' 사업을 해왔다. 하지만 그는 경력 4년차에 업무를 제대로 하지 않는다는 이유로 해고 통보를 당했다. 그를 평가한건 아마존이 설계한 알고리즘이었다. 통보도 AI로 생성된 자동 이메일로 이뤄졌다.
스테판 노르만딘은 블룸버그와 인터뷰에서 "AI는 문이 잠겨있는 아파트에 배송을 하라고 지시하고 이를 못하면 업무를 제대로 하지 않는다고 평가했다"면서 "110%의 힘을 다해 일을 했는데 AI가 수준 낮게 평가한 점에 정말 화가 났다"고 분노했다.
아마존은 2015년부터 일반인이 자차로 배송하는 플렉스 사업을 진행해왔다. 플렉스 배달원이 수백만 명에 달하자 이들을 관리할 수 있는 알고리즘을 개발·도입했다.
배달원은 '아마존 플렉스'라는 앱에 로그인하는 순간부터 AI에게 일거수일투족을 모니터링당한다. 운전 기록과 스마트폰 사용 시간 등이 추적된다. 배달장소에 도착했는지, 지정된 경로로 갔는지, 고객이 요청한 장소에 물품을 놓았는지 등을 감시당하게 된다.
아마존 플렉스 배달원들은 해당 AI가 정확한 평가를 하지 못한다고 불평한다. AI가 아파트 문이 잠겨있거나 차에 문제가 생기는 등의 변수를 제대로 파악하지 못한다는 설명이다. 한 여성 근로자는 블룸버그와 인터뷰에서 "타이어에 못이 박혀 배달을 중단할 수밖에 없었지만, 이로 인해 근무 평점이 하락했다"며 "다시 열심히 일해 근무 평점을 높였지만, 아마존은 고용 계약을 중단했고 항의도 받아들여지지 않았다"고 토로했다.
아마존의 AI 평가시스템 문제는 국내에도 적용된다. 대표 사례가 국내 배달 애플리케이션 기업의 AI 시스템 도입이다.
배달의 민족, 쿠팡이츠, 요기요 등 국내 배달앱 기업들은 'AI 배차 시스템'을 운영 중이다. 배달의 민족은 지난해 2월 수도권 일부 지역을 시작으로 AI 배차시스템을 도입해 7월 전 지역으로 확대했다. 요기요 역시 지난해 7월부터 AI 배차시스템인 ‘요기요 익스프레스’를 도입해 운영 중이다.
배달앱 기업은 AI 시스템으로 배달원에게 효율적인 배차 관리를 할 수 있다고 설명하지만, 근로자 입장은 다르다. AI 시스템이 근로자를 평가하는 수단으로 작용한다고 주장한다.
알고리즘이 라이더의 '수락률'과 배달 '평점'으로 배차를 결정해 근로자는 배차를 거절할 수 없고, AI 업무지시에 반드시 따라야한다는 게 이들의 주장이다. 배달 업무 중 사고를 당해 배달을 못해도 '배차 거부' 패널티가 적용되는 불이익도 있다고 주장한다.
박정훈 라이더유니온 위원장은 2월 열린 '플랫폼 배달노동과 알고리즘 기술 통제' 포럼에서 "배달 중 차량 충돌로 눈 밑이 찢어지는 사고를 당한 요기요 배달원은 배달 수행을 못하면 패널티가 있는지 회사에 문의하자 배차를 제외하게 될 경우 불이익이 있다는 답변을 받았다"며 "결국 그는 부상을 입고도 배달을 해야 했다"고 말했다.
AI 업계 관계자는 "배송과 택시 등에 AI 배차시스템이 적용되면서 근로자들은 알게 모르게 AI 평가 시스템을 적용받고 있다"며 "아직 AI가 배송 중 발생할 수 있는 변수 등은 알 수 없으므로 AI로만 평가하는 것은 심각한 사회문제를 야기할 수 있다"고 지적했다.
AI타임스 김동원 기자 goodtuna@aitimes.com
