인공지능(AI) 이용이 늘어나는만큼 관련 사고도 늘어날 것이라는 전망이 나왔다.
뉴스위크는 23일(현지시간) AI 사고 데이터베이스(AIID) 집계를 인용해 지난 1분기에만 지난해 전체 사고 건수인 90건의 절반인 45건의 사고가 발생, 올해는 최소한 지난해보다 두 배 이상 많은 사고가 발생할 것으로 전망된다고 보도했다.
AIID는 민간 단체인 '책임있는 AI 협업체’가 오픈소스로 운영하는 데이터베이스다. 2003년 이후 AI 시스템으로 인한 사고를 추적해 집계하고있다.
사건 목록에는 2015년 구글의 사진 소프트웨어가 흑인을 고릴라로 분류한 사례나 아마존의 채용 도구가 여성 지원자를 차별해 폐기된 사례 등이 있다.
또 폭스바겐 자동차 공장의 로봇이 직원을 기계에 끼여 숨지게 한 사례나 테슬라의 자율주행 자동차인 모델 S가 정지 신호를 무시하고 운행하다 충돌 사고를 내 두 명이 숨진 사례, 자동항법 시스템 오류로 바다에 추락해 189명이 숨진 라이언 에어 항공기 사례 등도 담겼다.
AIID는 블로그에 "최근 생성 AI 기술 발전으로 딥페이크 관련 사건이 크게 늘고 있다"면서 지난 2월 미국 뉴욕의 한 고등학교 학생들이 가짜 영상으로 부근 중학교 교장의 평판을 손상한 사건을 예로 들었다.
AIID 설립자 겸 운영자인 션 맥그리거 IBM왓슨 수석 기술 자문위원은 "올해 들어 챗GPT를 비롯한 생성 AI 도구의 개발과 출시가 봇물을 이루면서 AI 관련 사고가 지난해의 배 이상 발생할 것"이라고 우려하면서 "이에 대비할 사회적 인프라를 구축하는 것은 정책 입안자와 기업의 의무"라고 말했다.
정병일 위원 jbi@aitimes.com
