영국 법원이 인공지능(AI)을 사용해 존재하지 않는 사건을 인용하는 변호사는 법정 모독죄로 기소되거나 형사 고발까지 당할 수 있다고 경고했다. 법정에서 AI의 환각 문제가 이어지는 가운데 등장한 가장 강력한 발언으로 평가된다.
로이터에 따르면, 빅토리아 샤프 런던 고등법원 판사는 6일(현지시간) 두건의 소송에서 AI 도구를 사용해 허위 판례를 인용한 변호사들을 강력하게 비난했다.
그는 판결문을 통해 변호사가 존재하지 않는 사건을 언급하는 것은 법원을 오도해서는 안 되는 의무를 위반하는 것이며, 이는 법원 모독죄에 해당할 수 있다고 경고했다.
또 "가장 극악무도한 경우, 사법 행정을 방해할 의도로 고의로 법정에 허위 자료를 게시하는 것은 사법의 흐름을 방해하는 일반법상 범죄에 해당한다"라고 강조했다.
법정에서 AI의 환각 문제로 처벌받은 사례는 이미 2년 전 미국에서 등장했다. 뉴욕 지방법원은 2023년 5월 '챗GPT' 판례 조작 문제로 물의를 일으킨 법률회사에 벌금 5000달러(약 680만원)를 구형했다.
이후에도 비슷한 사례가 이어졌다. 최근에는 앤트로픽이 지난 5월 저작권 소송에 '클로드' 활용했다가 환각으로 망신을 당한 바 있다. 같은 시기에 캘리포니아의 판사는 두 로펌이 법정에 가짜 AI 기반 연구를 제출했다며 강력히 비난했다.
하지만 벌금형을 넘어 형사 고발이 언급된 것은 이번이 처음이다.
샤프 판사는 법률 규제 기관과 사법부가 변호사의 AI 활용에 대한 지침을 발표했지만 "지침 자체로는 AI 오용을 해결하기에 충분하지 않다"라며 "AI가 오용되면 사법 행정과 사법 제도에 대한 대중의 신뢰에 심각한 영향을 미칠 것"이라고 지적했다.
임대준 기자 ydj@aitimes.com
