"인간을 넘어서는 초지능이 다가오고 있다." "아니다. 인공지능(AI)은 인간 수준에 도달할 수 없다." "AI가 발전하면서 위험성도 커지고 있다."
초지능 또는 범용인공지능(AGI : Artificial General Intelligence)을 둘러싼 전문가들의 갑론을박이 한층 더 뜨거워지고 있다. 이들의 논쟁은 어제 오늘의 일이 아니다. 수년 전부터 지속됐다. 그런데 올해는 좀 특별해 보인다. 생성 AI를 중심으로 AI 기술이 괄목할 만한 성장을 이룬 때문이다.
벤처비트는 28일(현지시간) 몬트리올 AI의 빈센트 바우처 회장과 게리 마커스 미 뉴욕대 교수가 최근 주최한 온라인 포럼 'AGI Debate #3'에서 다양한 배경을 가진 연구자들이 이 주제로 난상토론을 벌였다고 전했다.
캐나다 브리티시콜롬비아대학 컴퓨터 과학과의 제프 클룬 부교수는 AGI 토론에서 인류가 2030년까지 AGI를 갖게 될 가능성이 30%라고 말했다. 그는 AGI를 “인간에게 경제적으로 의미있는 분야 중 절반 이상에서 문제를 해결할 수 있는 AI”로 정의했다.
클룬 교수는 새로운 학습 환경과 알고리즘을 지속적으로 만들고 평가하며 업그레이드 할 수 있는 시스템 구축이 가능하며 이는 AGI로 이어질 수 있다고 주장했다. 또 오픈AI가 개발한 GPT시리즈나 달리가 사람이 생성한 데이터를 학습해 인상적인 결과를 생성하는 효율적 방법을 찾았다고 평가했다.
스위스 AI랩 IDSIA의 유르겐 슈미트후버 과학 책임자도 AI 시스템에 대해 제기된 많은 문제는 비용의 문제라면서 미래에는 메타 학습을 수행하고 새롭고 더 나은 학습 알고리즘을 찾을 수 있는 심층학습 시스템을 만들수 있을 것이라고 거들었다. 그는 현대 심층학습의 선구자로 평가받는 인물로 AGI가 가능하다고 믿는 대표적 연구자다.
반면 AI에 대해 비판적인 언어학자 노암 촘스키 MIT교수는 “심층학습은 많은 영역에서 유용한 도구를 제공할 수 있다”면서도 “그러나 효용을 넘어 인지나 사고, 특히 언어에 대해서 이런 접근방식은 무엇을 가르쳐 줄 수 있느냐”고 반문했다.
그는 시스템이 개선될 수록 실패의 위험도 커진다면서 챗GPT와 같은 AI 도구가 문법적으로 정확하고 일관성이 있지만 논리적이고 사실적으로 결함 있는 텍스트도 생성한다는 점을 지적했다.
최예진 워싱턴대 컴퓨터과학과 교수는 심층 신경망이 앞으로 계속 실수를 저지를 것이라면서 “인간의 지능과 현재 AI의 지능은 여전히 엄청난 차이를 보이고 있다”고 진단했다. AI윤리 분야의 선도적 연구자인 최 교수는 인간과 AI의 격차는 ‘상식’에서 비롯된다고 말했다.
최 교수는 상식은 인간에게는 하찮지만 기계에게는 어렵다면서 기계에게 상식이란 현대물리학에서 말하는 암흑물질(dark matters)과도 같다고 주장한다. 인간은 암흑물질이 우주의 95%를 채우고 있다는 사실을 알고 있지만 측정할 수도 정체를 파악할 수도 없다.
이처럼 기계도 인간의 상식을 끝내 알 수 없을 것이라는 주장이다. 왜냐하면 “모든 규칙에는 끝없는 예외가 있고 상식적인 문제에는 보편적 진리가 없기 때문”이라고 최 교수는 말했다. 따라서 오히려 AI가 저지를 수 있는 실수나 실패를 예측하는 것이 진짜 과제라고 그는 주장했다.
AI에 대해 비판적 학자 중 한 명인 게리 마커스 뉴욕대 심리학과 교수는 AGI가 2030년 실현될 가능성이 30%라는 제프 쿨룬 교수의 주장과 관련해 “내기를 하자”고 했다.
정병일 위원 jbi@aitimes.com
