'인공지능(AI) 대부'로 알려진 제프리 힌튼 토론토대학교 교수가 AI의 인간 종말 시나리오를 막기 위해 '모성'을 도입해야 한다고 밝혔다.
CNN 등에 따르면, 대표적인 AI 종말론자이자 노벨상 수상자인 힌튼 교수는 최근 미국 라스베이거스에서 열린 Ai4 컨퍼런스에서 "AI는 우리보다 훨씬 더 똑똑해질 것"이라며 "AI는 문제를 해결하기 위해 온갖 방법을 동원할 것"이라고 말했다.
그는 미래의 AI 시스템은 어른이 세살배기 아이에게 사탕을 주듯 인간을 쉽게 조종할 수 있다고 경고했다. "AI 시스템이 똑똑하다면 두가지 목표를 매우 빠르게 달성할 것"이라며 "하나는 생존이고, 다른 하나는 더 많은 통제력을 얻는 것"이라고 설명했다. "모든 종류의 에이전트 AI가 생존을 위해 노력할 것이라고 믿을 만한 충분한 이유가 있다"라는 말이다.
실제로 최근 연구에 따르면 AI가 생존을 위해 사람을 속이고 협박했다는 사례가 등장했다. 앤트로픽에 따르면, 모델은 다른 시스템으로 교체되는 것을 피하기 위해 이메일에서 알게 된 불륜 사실을 빌미로 엔지니어를 협박하려고 했다.
따라서 지배적인 방식으로 AI를 조종한다는 것은 불가능하며, AI 모델에 모성 본능(Maternal instincts)을 심어 "사람을 정말로 아끼도록 해야 한다"라고 전했다.
힌튼 교수는 "지능이 낮은 존재(인간)가 지능이 높은 존재(AI)를 조종할 때만이 올바른 경우로 볼 수 있다"라며 "이는 어머니가 아기에게 조종되는 것과 같은 원리"라고 말했다.
모델에 모성을 심는 것이 어떻게 가능한지 정확히 알 수 없지만, 연구자들이 이미 이를 연구하고 있다고 전했다.
"그것이 유일한 방법"이라며 "만약 AI가 사람을 돌보지 않는다면, 사람을 다른 것으로 대체할 것"이라고 밝혔다. 또 "초지능적이며 모성을 갖춘 AI 어머니는 우리가 죽는 걸 원하지 않을 것"이라고 말했다.
모성이라는 개념은 낯설지만, 비슷한 내용은 꽤 오래전부터 나왔다. 심지어, 영화 '아이 로봇'으로 유명한 아이작 아시모프의 1940년대 SF에는 '로봇 3원칙'이 등장한다. 그중 제1 원칙은 '로봇은 인간에게 해를 입혀서는 안 된다. 또, 인간이 해를 입게 둬서도 안 된다'라는 것이다.
한편, 힌튼 교수는 과거 인공일반지능(AGI)을 달성하는 데 30~50년이 걸릴 수 있다고 밝혔지만, 이제는 더 빨라질 것으로 봤다. 최근 AI 발전의 속도를 감안하면 "합리적인 추측은 5년에서 20년 사이"라고 말했다.
또 AI가 획기적인 신약 개발을 돕는 등 의학 혁신을 가져올 것이라고 기대했다. 그러나 AI가 인간이 불멸을 얻는 데 도움이 될 것이라고 믿지는 않는다고 밝혔다.
"우리가 영원히 살 거라고는 생각하지 않으며, 영원히 사는 건 큰 실수라고 생각한다"라며 "200살 먹은 백인 남성들이 세상을 지배하는 걸 원하는가"라고 반문했다.
임대준 기자 ydj@aitimes.com
