예상치 못한 일라이자의 인기에 놀라면서도, 요셉 와이젠바움을 더욱 당황하게 한 것은 사람들이 일라이자와 대화하는 방식이었다. 컴퓨터 프로그램일 뿐이라는 설명을 들었음에도 불구하고, 사람들은 일라이자와 대화하며 빠르게 감정적으로 빠져들었기 때문이었다. 그는 “비교적 단순한 컴퓨터 프로그램에 짧은 시간 노출됐을 뿐인데, 정상적인 사람들마저 컴퓨터가 아니라 인간과 대화하고 있다는 믿음을 가질 만큼 강력한 망상에 빠질 수 있다”라며 놀라고 당황했다.
프로그램을 개발하는 과정을 지켜보며 일라이자가 컴퓨터 프로그램이라는 점을 잘 알고 있는 와이젠바움의 비서조차도 일라이자를 사용한 지 몇분 만에 대화가 너무 사적인 내용으로 진행됐고, 그에게 자리를 비켜 달라고 요구했을 정도였다. 사람들은 일라이자와의 대화에 현혹됐다. 사람의 말을 이해하거나 감정을 느낄 능력이 있는 프로그램이 아니었지만, 사람들은 일라이자가 자신을 이해하고 대화를 한다고 생각했다. 아니, 그렇게 믿고 싶어 했다.
이렇게 심리치료 대화 패턴을 활용할 뿐인 일라이자에게 사람들이 감정적 집착까지 보이면서 ‘일라이자 효과(Eliza Effect)’라는 용어도 생겼다. 컴퓨터 프로그램이 단순한 규칙 기반으로 작동하지만, 사람처럼 이해하거나 지능적으로 행동한다고 믿는 심리를 말한다. 최근에는 컴퓨터 프로그램뿐만 아니라 전자기기나 로봇, 그리고 인공지능(AI) 프로그램에 무의식적으로 인격을 부여하는 현상을 가리키기도 한다.
이런 현상은 일라이자를 더 이성적으로 바라볼 것으로 기대됐던 정신과 의사들이나 과학자들에게도 마찬가지였다. 그들은 이 프로그램이 정신과 진료에 도움이 될 수 있을 것이라는 의견을 발표했고, 약간 수정하면 정신 질환 치료 센터에서 광범위하게 사용될 치료 도구가 될 수 있다는 논문을 발표하기도 했다. 더욱 놀라운 현상은 정신과 의사는 본질적으로 컴퓨터와 같은 종류라고 주장하고, 인간을 흉내 내는 일라이자를 보며 오히려 자신들이 컴퓨터를 흉내 내는 것인지도 모른다는 말까지 나왔다.
단순한 프로그램으로 명확한 지시에 따라 일련의 과정을 수행할 뿐 대화 내용을 이해하는 것이 아닌 프로그램과 대화하며 사람들이 감정적으로 빠져들어 인간적 특성을 불어 넣는다는 사실에 와이젠바움은 충격을 받았다. 그는 단순한 규칙에 의해 제한된 범위의 대화를 하는 프로그램임을 인식했던 사람들조차 대화를 진행하며 일라이자가 실제 생각을 하는 기계라고 믿기를 원했던 것 같다고 밝혔다. 이에 따라 이전에는 갖지 못했던 질문을 자신에게 던지게 됐고, 그 결과 10여년간 연구 끝에 ‘컴퓨터의 능력과 인간의 이성(Computer Power and Human Reason)’이라는 책을 1976년에 출간했다.
이 책에서 AI의 판단에 의한 결정에 대한 위험성을 제시하며, AI 비판가로 몰려 당시 많은 AI 연구자와 논쟁을 벌여야 했다. 그의 책은 AI에 대한 공격적인 내용이 상당히 그리고 상세하게 기술됐는데, 당시의 AI 비평가들과 유사하지만 그만의 독창적인 비평도 실려 있다. 특히 '안티 AI' 관점의 이 책은 AI 연구의 중심지였던 MIT의 교수이자 초기 성공적인 AI 프로그램 개발자가 쓴 책으로 더 주목을 받았다.
와이젠바움은 일라이자를 통해 자신이 받은 충격을 세가지로 설명했다. 첫번째는 단순 논리 프로그램에 대해 전문가인 정신과 의사들마저 자동화된 전문 심리치료로 인정하려 했다는 점, 둘째는 사람들이 빠르게 그리고 지나치게 빠져들며 사람과 같은 정서 교감을 느꼈다는 점이다. 세번째는 동료 AI 연구자조차 일라이자를 자연어 처리 시스템으로 과장되게 인식하고 홍보했다는 점을 꼽았다.
책에서 컴퓨터 기술에 대한 그의 양면적 입장을 밝히며, 제2차 세계 대전 전쟁의 산물인 컴퓨터가 근대 사회의 생존 조건이 아니었음에도 정부와 산업계의 무비판적 포용으로 삶의 일부가 됐다고 지적했다. 그런 포용은 오히려 컴퓨터가 강요하는 방식으로 삶이 반영됐다고 말하며, 컴퓨터가 끼칠 부정적 영향에 대해서 우려를 표했다.
사람들이 컴퓨터나 AI 등과 긴밀하게 연결되며 인간의 감각이나 감정보다 기계를 더 신뢰하고 복종할 수도 있으며, 사람과 기계를 차별하는 특성을 잃으면 인간성까지 잃을 수 있다고 강조했다. 이 때문에 인간적인 정신 활동과 지적 추구를 멈춰서는 안 되며, 지혜가 필요한 결정을 컴퓨터, 즉 AI에 맡겨서는 안 된다고 주장했다.
특히 컴퓨터는 경험을 통한 지혜, 연민, 공감과 같은, 사람이 느낄 수 있는 감정이 없기 때문에 AI로 구현 가능하더라도 중요한 결정을 맡겨서는 안 된다고 주장했다. 또 프로그램에 의해 계산되는 컴퓨터나 AI의 ‘결정’은 지혜와 감정 같은 비수학적 계산 요소를 포함한 인간의 ‘선택’은 절대적으로 다른 것이며, 인간의 선택보다 AI의 판단에 의한 결정을 내리게 하는 것은 위험한 일이라고 주장했다.
심리학에 관심이 많았던 수학자로 초기 AI의 개발자이자 프로그래머였던 와이젠바움이 이런 질문을 제기했을 당시에는 AI는 비교적 새로운 학문으로, 낙관주의가 대부분이었다. 또 AI 연구계의 대부분 연구자가 인간 지능을 가진 기계를 만들어 인간의 문제를 해결해 주고, 인간과 대화하는 새로운 방식으로 융합되는 세상을 꿈꾸고 있었을 때였다.
그래서 인간과 기계의 차이에 대한 지적과 경계 주장은 비난을 받을 수밖에 없었다. 그의 지적은 컴퓨터나 AI에 대한 지나친 낙관과 의존이 오히려 인간성을 상실할 가능성이 있다고 경고를 한 것으로 볼 수 있다. 또 책에는 적절한 지적이 많아, 현재 곱씹어 봐도 좋은 내용도 있다. 그러나 주장은 모호한 부분이 많았고, 나치 독일과 같은 전체주의 정부가 AI를 악용할 수 있기 때문에 AI가 허용되면 안 된다는 식의 편향된 주장도 있었다.
책 출간 이후 그의 주장을 흥미롭게 바라보는 관점도 있었지만, AI 개발자들을 포함한 많은 컴퓨터 과학자들은 변절자라고 비난했다. 특히 AI의 선구자 중 하나인 존 매카시는 그의 책이 비과학적이고 비이성적이라 무시한다고 조롱 섞인 비평을 했다.
이렇게 최초의 AI 챗봇 프로그램을 개발한 와이젠바움은 AI 개발에서 벗어나 다른 길을 선택하며 명성을 구축해 준 기술에 대한 최초의 그리고 가장 큰 변절자이자 비판자가 됐다. 한편, 그의 책이 출판될 당시는 '애플 1'이 출시되는 등 컴퓨터의 대량 보급이 이뤄지던 시점으로, 대중은 신기하고 새로운 기술에 대한 관심과 기대만 있었을 뿐 '변절자'가 제기하는 우려에는 아무 관심이 없었다.
문병성 싸이텍 이사 moonux@gmail.com
