미국 법원 사상 처음으로 인공지능(AI)으로 화질을 개선한 비디오를 증거로 채택하려던 시도가 무산됐다. 법원은 "부정확하고 오해의 소지가 있으며 신뢰할 수 없다"라는 이유를 댔다.
NBC는 3일 미국 워싱턴주 킹카운티의 리르이 맥컬로 고등판사가 AI로 화질을 강화한 총격 사건 휴대폰 비디오를 증거로 채택하지 않았다고 보도했다.
이에 따르면 이 비디오는 지난 2021년 시애틀에 일어난 총격으로 3명을 사망케 하고 2명을 다치게 한 혐의로 기소된 남성의 변호사가 제출했다.
변호사는 당시 상황이 정당방위라는 것을 입증하려는 의도로, 현장에서 찍힌 휴대폰 영상의 화질을 강화하기 위해 AI 도구를 사용했다. 영상 업스케일링은 토파즈 랩스라는 회사가 개발한 소프트웨어를 활용했으며, 편집 경력이 있는 전문가가 맡았다.
검찰은 AI 보강 영상이 원본의 정확한 상황을 반영한 것이 아니라, 이미지를 예측해 생성했다고 반박했다. "강화된 이미지는 부정확하고 오해의 소지가 있으며 신뢰할 수 없다"라는 이유다.
원본과 강화 녹화물을 검토한 그랜트 프레드릭 법의학 비디오 분석가는 "강화 버전에는 원본에 없는 시각 데이터가 포함돼 있다"라고 지적했다. 또 향상된 버전에서는 일부 데이터도 삭제됐다고 주장했다.
그는 "AI가 생성한 비디오의 모든 픽셀은 새로운 것이므로 일반 관찰자의 눈에는 더 선명하게 보일 수 있지만, 진짜 사건을 왜곡할 수 있는 환각이 포함될 수도 있다"라고 기술했다.
용의자의 변호인은 이에 대해 “과장된 주장”이라며 반박했다. "두 비디오를 비교하면 향상된 버전이 원본에 더 충실한 묘사임을 알 수 있다"라고 강조했다.
결국 맥컬리 판사는 "AI 모델은 '짐작'하는 것을 표현하는 불투명한 방법에 의존한다"라며 "이런 Al 강화 증거를 인정하면 문제가 더 혼란스러워지고 시간이 많이 걸리는 재판으로 이어질 수 있다"라며 증거 채택을 거부했다.
조나단 학 변호사 겸 법정 변호사는 이번 사례가 AI 문제에 무게를 둔 첫번째 사건이라고 말했다.
이번 비디오 분석을 맡은 프레드릭 역시 "재판에 AI로 화질을 개선한 비디오가 등장한 사례를 찾지 못했다"라고 밝혔다. 그는 30년간 비디오 분석가로 일하며 FBI에서 강의를 진행해 왔다.
다만 전직 범죄 현장 수사관이자 오랫동안 법의학 비디오 분석가로 일한 조지 레이스는 자동차 번호판 이미지를 명확하게 하기 위한 잠재적인 조사 도구로 AI가 사용되는 몇가지 사례가 있다고 전했다.
하지만 이번 사건에 대해 기술이 사용된 토파즈 랩스 측은 "자사의 AI 기술을 법의학이나 법률 애플리케이션에 사용하지 말 것을 강력히 권고한다"라고 밝혔다. 또 비슷한 소프트웨어를 개발 중인 암페드 역시 AI가 법적 환경에서 이미지 향상에 사용하기에는 충분히 신뢰할 수 없다고 발표했다.
레이스 분석가는 "이것은 새로운 과학"이라며 “실제 사례 작업에 사용하기 전에 이에 대한 연구나 검토가 이뤄져야 한다"라고 지적했다.
또 "정지 사진이나 동영상을 명확하게 하는 데 AI를 사용하는 것이 미래의 어느 시점에 적합할지 확신할 수 없지만, 현시점에서는 시기상조”라고 말했다.
임대준 기자 ydj@aitimes.com
