코로나19 팬데믹으로 휴교령이 길어지면서 학생들은 온라인으로 학업을 이어가고 있다. 수업 이후 시험이나 과제도 마찬가지다. 미국 내에서는 현재 이를 채점하는 AI 알고리즘을 비판하는 목소리가 커지고 있다. 점수를 매기는 기준이 모호할 뿐 아니라 맞는 정답을 잘못 인식해 오답을 주는 경우가 허다한 것. 월스트리트저널(WSJ)은 17일(현지시간) 각 지역 피해사례를 집중보도했다.
캔버스 러닝 매니지먼트 플랫폼은 하버드, 예일 등 아이비리그 대학에서 도입을 시작하며 유명세를 탄 온라인 수업 플랫폼이다. 북미 유명대학 및 전 세계 3000여개 교육기관이 사용 중인 것으로 알려졌다. 지난 2018년에는 한국에도 캔버스를 기반으로 개발된 차세대 강의 관리시스템(LMS) 러닝엑스(LearningX)가 출시됐다.
줄리 자르곤 WSJ 기자는 이 캔버스 플랫폼에서 자신의 초등학교 5학년 아들이 받은 과학시험 점수를 보고 당황했다. 분명히 맞는 답을 썼는데 단어의 첫 알파벳을 대문자로 표기했다고 오답 처리된 것이다. 콜로라도주 오로라시에 사는 페레즈 씨의 세 자녀는 팬데믹 전에는 학교에서 공부를 곧잘 하는 학생이었다. 그러나 집에서 캔버스로 공부를 시작한 이후 성적도 의욕도 떨어졌다고 한다.
페레즈 씨는 “아직 예민한 십대 학생들이 오답처리로 인해 겪는 혼돈과 정신적 피해는 어떻게 보상해줄 것이냐”며 “워킹맘은 매일 집에서 아이들과 플랫폼을 꼼꼼히 모니터링 할 수도 없는 노릇”이라고 말했다.
비슷한 일은 캔버스가 아닌 다른 업체가 제작·배포하는 LMS 플랫폼에서도 발생했다. 일리노이주 하일랜드파크시에 거주하는 패트릭 라이틀 씨의 딸은 오투스로 수학 문제를 풀고 있었다. 아이가 ‘3그램’이라고 답을 쓰자 오답표시가 뜨면서 정답을 ‘3’이라고 알려줬다. 라이틀 씨는 즉시 오투스와 이 과제를 내준 학교 담당교사에게 이메일을 보내 정정요청을 했다.
오투스 측은 이 같은 문제는 자사 소프트웨어나 테크놀로지 문제가 아니라고 항변했다. 자신들은 플랫폼을 제공만 할 뿐이고 각 학교에서 방과 후 학습으로 플랫폼에 과제를 설계하는 것은 교사들 몫이라는 것이다. 정답을 ‘3그램’ 혹은 ‘3’ 등 여러 개로 지정할 수 있는 것도 교사들 책임이라고 설명했다.
그러나 자르곤 기자는 플랫폼 제작사에게도 엄연히 실수가 존재한다고 지적했다. 그는 “처음부터 자동으로 채점하는 AI 봇을 단순 설계한 것이 가장 큰 원인”이라고 꼬집었다. 팬데믹 여파로 갑작스럽게 원격수업이 실행되는 것도 혼란스러운데 제대로 준비가 되지 않은 플랫폼을 제공한다면 이중으로 골머리를 앓는 것은 학생과 학부모라고 밝혔다. 플랫폼 업체가 상품 판매 전 이를 사용하는 학교나 교사에게 충분한 시간을 들여 훈련을 하지 않은 결과라고 말했다.
AI가 교육시장에 본격적으로 도입되면서 가장 큰 잡음이 일어난 것은 지난 8월 영국에서다. 영국 정부 당국은 ‘직접센터학업모델’이라는 AI 알고리즘을 활용해 30만명의 고등학생들에게 졸업학점을 부여했다. 당국은 빅데이터를 근거로 객관적이고 적합한 학점을 줬다고 자부했지만 학생들은 거리로 뛰쳐나와 시위를 벌였다. 사립학교 학생들에 비해 공립학교 학생들이 낮은 점수를 받으면서 대학입시가 취소되는 경우까지 발생했기 때문이다. 전형젹인 ‘AI 편향’으로 피해가 속출한 사례다.
크리스틴 브라운 미네소타대 교수는 “AI 알고리즘에 패턴을 훈련시키는 것은 사람”이라며 “무조건적으로 의지하고 믿기에는 오류가 많은 것이 현실”이라고 말했다. 그는 “나 자신도 AI 플랫폼을 쓰고 있지만 결국 서너 번 내 손으로 채점을 다시 확인한다”며 “인간의 삶을 편리하게 해 주는 기술은 너무나 많지만 사람의 손이 필요한 영역 또한 여전히 존재한다”고 덧붙였다.
