에스토니아, 소액 분쟁에 AI판사 100명 투입 검토
호주연구진 "AI에 대한 충분한 이해 필요하다" 지적
세계적으로 인공지능(AI)을 이용한 법정이 늘어나고 있는 것으로 나타났다. 이로 인한 부작용을 우려하는 목소리도 나오고 있다.
테크비즈뉴스는 29일(현지시간) 호주사법행정연구회(AIJA)와 호주 뉴사우스웨일스 대학교(UNSW) 법연구회, UNSW 앨런스 허브, NSW 미래협회 등이 AI를 도입한 세계 사법 시스템이 늘어남에 따라 발생하는 주요 과제 연구 결과를 발표했다고 보도했다.
연구진은 법원이 일상 업무에서 AI를 점덤 더 많이 사용하고 있으며, 이는 결과적으로 재판 결과에 영향을 미친다고 지적했다.
리리아 베넷 모제스 UNSW 앨랜스 허브 소장은 "AI 도입에 대한 망설임에도 불구하고 법원은 차츰 AI를 관행적으로 수용하고 있다"고 말했다.
실제로 에스토니아는 'AI 판사' 도입을 눈 앞에 두고 있다. 에스토니아 법무부는 최대 7000유로(약 973만원) 이하의 분쟁에 100명의 AI 판사를 투입하는 것을 검토 중이다.
AI가 분쟁 양측으로부터 자료를 건네받아 분석하고 자체 판결한 내용을 작성하면, 판사가 이를 참고해 최종 판결한다는 내용이다. 이를 통해 판사들의 업무 부담을 줄이고 중요한 사건에 집중하도록 한다는 취지다.
하지만 연구진은 AI 법정 도입이 유용한 것은 확실하지만 학습 데이터 부족이나 편중 등으로 인한 인권침해를 비롯해 다양한 부작용이 발생할 수 있다는 지적도 내놓았다.
이와 관련 모제스 소장은 "법원의 AI는 기존 재판 결과를 참고하는 데이터 기반 추론 형식으로 문서를 작성해 재판 결과에 영향을 미치고 있다"며 "판사나 법원 관계자들은 이런 AI 기술을 충분히 이해해야 한다"고 말했다.
연구진은 특히 미국에서 사용 중인 '콤파스(COMPAS, 범죄자 교정 관리 프로파일링)'에 강력한 우려를 표했다. 콤파스는 죄수가 재범을 저지를 가능성을 평가하기 위해 사용하는 의사 결정 지원 도구다. 현재 뉴욕주와 위스콘신주, 캘리포니아주, 플로리다 브로워드 카운티 등에 사용 중이다.
콤파스는 137개의 설문을 통해 재범 가능성을 평가하는데, 여기에는 죄수의 범죄 이력 같은 사실 체크와 더불어 '가끔 좌절감을 느끼는가'와 같은 모호한 항목도 존재한다.
이에 연구진은 콤파스가 판사에게 영향을 미쳐, 죄수에게 불리한 결과를 도출해낼 수 있다고 지적했다. 대표적인 예로 지난 2013년 폴 질리라는 한 용의자는 잔디 깎는 기계를 훔친 혐의로 검찰로부터 징역 1년에 기소됐다. 그러나 판사는 다시 범죄를 저지를 위험이 높다는 콤파스 분석 결과에 따라 징역 2년을 선고했다.
모제스 소장은 "일부 AI의 사용은 중요한 법적 가치와 충돌한다"면서 "우리는 사람들이 올바른 질문을 하고 사회가 답할 수 있도록 도와야 한다"고 말했다.
김영하 기자 yhkim@aitimes.com
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com