최근 일론 머스크와 제프리 힌튼 등 인공지능(AI) 분야의 명망가들이 잇달아 AI로 인한 ’인류의 실존적 위험’을 강조하고 나선데 대해, 너무 심한 것 아니냐는 반응이 나오고 있다.
샘 알트먼 오픈AI CEO를 비롯해 AI 대부로 불리는 제프리 힌튼 토론토대 교수와 요슈아 벤지오 몬트리올대 교수, 데미스 하사비스 구글 딥마인드 CEO 등 전문가 350여명은 30일(현지시간) 공동성명을 통해 AI 위험에 대한 관리를 촉구했다.
이들은 성명을 통해 “AI로 인한 멸종 위험을 완화하는 일이 전 세계적으로 우선돼야 한다”면서 ‘인류의 실존적 위험’을 언급하고 AI의 위험성을 코로나 팬데믹이나 핵전쟁 위험과 같다고 강조했다.
그러나 이와 관련해 벤처비트는 ‘X-리스크(인공지능으로 인한 실존적 위험)’를 크게 우려하지 않는다는 반박이 AI 커뮤니티에서 나온다고 31일 보도했다.
사라 후커 전 구글 브레인 연구 과학자는 X-리스크가 AI 기술의 지배적인 관점인 것처럼 취급되고 있지만, 지난달 초 전 세계 AI 연구자들이 모인 국제 컨퍼런스 ICLR에서 X-리스크는 ‘비주류 주제’였다고 전했다.
그는 “컨퍼런스에서 실존적 위험에 대해 이야기한 몇몇 연구자들은 자신들이 소수이기 때문에 소외감을 느꼈다”고 말했다.
마크 리들 조지아공대 부교수는 저명한 연구자와 거대기술회사 리더들의 말이 소셜 미디어와 언론에서 지나친 관심을 받는 것 같다고 말했다. 이는 “인간 문명 전체가 위험하다는 시나리오만 문제가 되고 다른 피해는 중요하지 않다는 믿음을 퍼뜨린다”고 비판했다.
야신 저나이트 허깅페이스 연구원은 트위터 글에서 최근 반복되는 X-리스크 담론이 디도스(DDos) 공격같다고 꼬집었다. 그는 X-리스크에 너무 많은 관심이 집중돼 있어서 더 시급한 문제나 다른 위험에 초점을 맞춘 연구자들에게 교묘하게 사회적 압력이 가해지고 있다고 지적했다.
구글에서 회사의 비윤리적 정책을 비판했다가 해고된 팀닛 게브루 전 윤리 팀장은 트위터에서 X-리스크 담론에 대해 디도스 공격같다는 지적에 공감을 표시하면서 “백만장자 백인 남성들이 이런 걱정을 하고 있다”고 썼다.
비판자들의 논점은 X-리스크 담론이 AI의 위험을 지나치게 강조하면서 기후변화나 디지털 낙후 지역에 대한 AI 보급, 환각, 가짜 정보 확산 등의 실제적 문제들을 외면하게 만드는 부작용을 초래하고 있기 때문에 자제해야 한다는 것이다.
정병일 기자 jbi@aitimes.com
