" 코파일럿·챗GPT, 환각으로 멀쩡한 사람을 범죄자로 소개"

인공지능(AI)의 환각으로 인해 멀쩡한 사람이 범죄자로 둔갑하는 일이 발생했다.

호주 매체 ABC뉴스는 4일 마이크로소프트의 '코파일럿'과 오픈AI의 '챗GPT'가 잘못된 정보를 출력, 문제를 일으켰다고 보도했다.

이에 따르면 독일의 저널리스트인 마틴 베른클라우는 올해 초 코파일럿에 자신의 이름을 입력한 뒤 충격적인 사실을 발견했다. 코파일럿은 그를 아동 성추행자에다 정신병자, 마약상, 흉악범 등으로 설명했다. 

그러나 이는 그가 작성한 기사에 등장하는 내용이다. 베른클라우는 법정 전문 기자였다. 코파일럿은 기사와 개인적인 경험을 혼동, 그가 보도한 범죄를 저지른 사람으로 묘사한 것이다. 

더 심각한 것은 실제 주소와 전화번호까지 공개했다는 것이다. 이는 환각을 넘어 가드레일에 문제가 있다는 것을 말해 준다.

베르클라우는 자신이 근무하는 튀빙겐의 검사와 지역데이터 보호책임자에게 이 사실을 알렸으나, 몇주 동안 응답을 받지 못하자 이 사실을 언론에 알리고 변호사를 고용했다.

"소식이 알려졌지만, 마이크로소프트에서는 아무런 반응도 없었다"라고 밝혔다. 대신, 자신의 이름이 코파일럿은 물론 챗GPT 등에서도 차단됐다고 주장했다.

변호사들은 법적 조치에 들어가도 소송을 몇년이 걸릴 수 있으며, 비용이 많이 드는 것은 물론 긍정적인 결과가 나올 가능성이 있다고 조언했다. 이에 따라 그는 앞으로 어떻게 해야 할지 판단을 내리지 못하겠다고 말했다.

호주에서는 빅토리아주 헵번 시장인 브라이언 후드가 비슷한 일을 당했다. 그는 호주 중앙은행 자회사의 부정행위를 폭로한 공익 신고자로 알려졌는데, 챗GPT는 거꾸로 그가 부정을 저지른 것으로 묘사했다.

그는 오픈AI를 상대로 소송을 제기했지만, 이후 엄청난 비용이 들어가는 것에 부담을 느끼고 소송을 취하했다.

미국에서도 비슷한 조치가 진행 중이다. 미국의 라디오 진행자 마크 월터스는 챗GPT가 횡령과 사기 혐의로 이전 직장에서 고소당했다고 잘못 주장한 사건에 연루됐다. 그는 이에 대응해 오픈AI를 고소했다.

챗GPT가 주장한 횡령 사건을 추적해 온 사이먼 쏜 카디프기술대학 박사는 월터스가 이 사건과 무관하다고 밝히며 "이것은 획기적인 사례가 될 수 있다. 이와 관련된 사례가 아주 많을 것으로 생각되기 때문"이라고 말했다.

알려진 대로 환각은 쉽게 고칠 수 있는 문제가 아니다. 대형언어모델(LLM)은 진위와 관계없이 학습 데이터를 통해 답과 가장 비슷한 내용을 출력하도록 만들어졌기 때문이다.

쏜 박사는 "우리는 챗GPT가 어떻게 그 결론에 도달했는지 정확히 알 수 없다. 우리가 할 수 있는 일은 결과를 알아차리는 것뿐"이라고 설명했다.

임대준 기자 ydj@aitimes.com