100년 내로 인공지능(AI)이 인간을 멸종할 확률이 99.9%라는 주장이 나왔다. 인간이 AI를 통제하는 것이 사실상 불가능하며, 어떤 식으로든 문제가 생긴다는 것을 이유로 들었다.
비즈니스 인사이더는 4일 로만 얌폴스키 루이빌대학교 컴퓨터 과학자가 팟캐스트에 출연, 미래에는 AI가 인간을 반드시 해칠 것이라고 주장한 사실을 보도했다.
이 팟캐스트는 과학자 렉스 프리드먼이 진행하는 것으로, 얼마 전에는 샘 알트먼 오픈AI CEO도 출연한 적이 있는 유명 채널이다.
프리드먼은 팟캐스트에 출연한 대부분 전문가는 AI의 인간 멸종 가능성을 1~20%로 추정했다고 밝혔다. 또 옥스포드대학교와 본대학교 등이 최근 실시한 2778명 과학자 대상 설문조사에서는 5%에 불과하다는 결과가 나왔다.
그러나 프리드먼은 더 비관적인 전문가와 이야기를 나누는 것이 중요하다며 얌폴스키를 초청했다고 설명했다. 얌폴스키는 생체 인식, 사이버 보안, AI 안전 등을 연구했으며, 최근 'AI: 설명할 수 없고 예측할 수 없으며 제어할 수 없음'이라는 책을 출판했다.
그는 두시간이 넘는 인터뷰를 통해 AI의 위험을 강조했으며, 매우 암울한 예측을 내놓았다.
"AI가 인류를 멸망시킬 가능성은 인간이 향후 100년 동안 버그 없이 매우 복잡한 소프트웨어를 만들 수 있는지에 달려 있다"라고 말했다. AI 모델이 의도하지 않은 작업을 수행하도록 만들 수 있는 완벽한 방법이 없기 때문에, 사고를 피할 수 있는 방법은 사실상 없다는 주장이다.
"AI는 이미 실수를 저질렀다"라며 "탈옥이나 환각은 이미 벌어졌다. 현재 개발자가 의도하지 않은 일을 성공적으로 수행하지 않은 대형언어모델(LLM)은 하나도 없을 것"이라고 설명했다.
또 인공일반지능(AGI)이 등장하면 문제가 더 커진다고 강조했다. "인간보다 더 똑똑한 시스템이 무엇을 할 것인지 예측할 수는 없다"라고 전했다. AGI는 우리가 아직 존재하지도 모르는 것을 찾아낼 것이라고도 덧붙였다.
그는 결국 인류의 운명이 3가지 중 하나일 것으로 예측했다. ▲AI가 모두를 죽이는 상황 ▲AI로 인해 모두가 고통받고 차라리 죽기를 바라는 상황 ▲모든 인간이 목적을 완전히 상실하는 상황 등이다.
특히 마지막으로 지적한 '목적 상실'은 많은 전문가도 지적한 내용이다. AI가 인간의 창의성을 대신하고 일자리를 빼앗아, 더 이상 인간의 존재 가치가 없어질 것이라는 예측이다.
이 때문에 얌폴스키는 AI를 제어하기 위한 영구적인 안전장치가 필요하다고 강조했다. 또 이후 출시될 첨단 모델이 큰 문제를 보이지 않는 것 같아도, AI는 계속 학습하고 스스로 개선해 실존적 위험을 낳을 수 밖에 없다는 논리다.
한편 이에 대해서는 최근 에릭 슈미트 전 구글 CEO가 '비바테크' 컨퍼런스에서 비슷한 의견을 밝힌 바 있다.
그는 3~5년 안에 사이버 공격이나 생물학적 위험 등 현실적인 위험이 AI로 인해 생길 수 있으며, 만약 AI가 자유의지를 가진 것이 확인된다면 해결책은 하나뿐이라고 전했다.
그는 그 방법으로 "우리는 코드를 뽑을 것"이라고 말했다.
임대준 기자 ydj@aitimes.com
