구글은 자체 인식이 있는 것으로 오인될 만큼 성능 좋은 AI를 보유하고 있다. 하지만 구글 AI가 아동 성착취물 구분에서 엉뚱한 결과를 내놔 피해가 잇따르고 있다.
뉴욕타임즈(The Newyork Times)는 21일(현지 시간) 구글 AI의 오해로 인해 피해를 본 샌프란시스 거주 40대 남성 마크(Mark) 씨의 사례를 소개했다. 전업으로 집안일을 하고 있는 마크는 작년 2월의 어느 금요일에 아들의 주요 부위가 부은 것을 확인했다.
마크는 안드로이드 기반의 스마트폰으로 아들 몸 상태를 찍었다. 그의 아내는 응급진료 일정을 잡기 위해 병원에 전화를 걸었고, 전화를 받은 간호사는 의사가 미리 사진을 검토할 수 있도록 사진을 보내라고 말했다. 마크의 아내는 남편의 전화로 아들의 사타구니 부분을 고화질로 클로즈업한 사진 몇 장을 의료 서비스 제공자의 메시징 시스템에 업로드했다.
마크가 폰으로 업로드한 사진을 보고 의사는 문제를 진단하고 항생제를 처방하여 빠르게 치료했다. 그때까지 과정에서 마크는 아무런 문제도 인식할 수 없었다.
하지만 마크는 자신도 모르는 사이 아동 성적 학대 자료를 교환하는 사람들을 적발하도록 설계된 구글 AI 알고리즘의 그물에 걸려 경찰 조사의 대상이 됐다. 마크는 이 과정에서 10년 이상 모아둔 연락처, 이메일 및 사진을 잃게 됐고, 새 전화번호를 신청해야 했으며, 다른 인터넷 계정에 로그인하는데 필요한 보안 코드를 받을 수 없었다.
마크는 뉴욕타임즈와의 인터뷰에서 "이 회사들이 원치 않는 감시를 하고 있다”며 "난 잘못한 게 없다"고 항변했다. 뉴욕타임즈에 따르면 경찰은 마크의 입장에 동의했으나 구글은 그렇지 않았다. 결국 마크는 계정을 복구할 수 없었고 구글은 더 많은 아동 성범죄를 예방하기 위해 그런 조치가 불가피하다는 입장을 고수했다.
마크와 유사한 사례가 텍사스에서도 일어났다. 카시오(Cassio)라는 남성은 마크와 마찬가지로 의사의 요청에 따라 아들의 사진을 아내에게 보냈다. 카시오는 이 사진을 안드로이드 폰으로 촬영했고, 구글의 채팅 서비스를 통해 아내에게 보냈다.
이후 카시오 씨는 지메일(Gmail) 계정을 차단당했다. 당시 카시오 씨는 부동산 거래를 하고 있었는데, 갑작스런 차단 때문에 중개인의 의심을 샀다. 또한 카시오는 경찰로부터 출두하라는 명령을 받아야했다.
뉴욕타임즈와 인터뷰한 디지털 시민 자유 단체인 전자 프론티어 재단(Electronic Frontier Foundation)의 존 칼라스(Jon Callas)는 이와 같은 사례가 “수십, 수백, 수천 가지가 더 있을 수 있다”고 말했다.
칼라스는 “누군가의 개인 장치에 있는 가족 사진 앨범은 사적인 영역이어야 한다”면서 "그들의 감시는 우리 모두가 우려하는 바로 그 악몽이다"라고 말했다. 이에 덧붙여 “그들은 내 가족 앨범을 스캔할 것이고 그러면 내가 곤경에 처할 것”이라고 말했다.
결국 마크는 당시 소송비용 7천달러가 부담되어 소송을 할 수 없었다. 경찰은 사건을 송치 받은지 일주일 만에 마크를 혐의 없음으로 처리하고 사건을 종결했지만 구글에 계정을 복구하라는 명령은 할 수 없었다.
한편 구글의 아동 안전 운영 책임자인 클레어 릴리(Claire Lilley)는 “원격 의료, 특히 코로나의 시대에 부모가 진단을 받기 위해 자녀의 사진을 찍어야 한다는 사실을 알고 있다”면서 “회사가 소아과 의사와 상의하여 검토자가 의학적 이유로 촬영한 사진에 나타날 수 있는 상태를 이해할 수 있도록 했다”고 말했다.
하지만 미국소아과학회 아동학대 및 방치에 관한 협의회 의장인 수잔 하니(Suzanne Haney) 박사는 의사의 지시가 있더라도 부모에게 자녀의 생식기 사진은 찍지 말라고 조언했다. 하니 박사는 "사진이 꼭 필요한 경우 클라우드에 업로드하지 말고 즉시 삭제하라"고 조언했다.
AI타임스 이성관 기자 busylife12@aitimes.com
[관련 기사] 틱톡, 이용자가 입력하는 정보 추적 가능
[관련 기사] [AI 주간 브리핑] 인공지능 속여먹기
[관련 기사] 인간 수준의 지능을 가진 AI는 언제쯤 실현될 수 있을까?
