“오늘날 어떤 컴퓨터도 심리 치료에 적합하지는 않지만, 그것은 일부 인간 심리 치료사도 마찬가지다. 심리 상담이 더욱더 필요한데... 몇달러이면 신중하고, 검증된 그리고 지시적이지 않은 기계 심리 치료사와 대화를 할 수 있을 것이다.”
‘코스모스(Cosmos)’로 유명한 천체 물리학자 칼 세이건(Carl Sagan)이 내츄럴 히스토리와의 인터뷰에서 한 이야기인데, 이는 컴퓨터 프로그램 '일라이자(Eliza)'를 염두에 두고 한 말이었다. 사실 칼 세이건은 일라이자의 열렬한 팬이었다.
일라이자는 MIT 교수인 조셉 와이젠바움(Joseph Weizenbaum)이 1964년부터 1966년까지 개발한 대화형 컴퓨터 프로그램이다. 베를린에서 태어난 와이젠바움은 13살 때 나치를 피해 미국으로 이주했고, 웨인 주립 대학에서 수학을 공부하다 2차대전 기간 미군에서 복무했다. 그는 전공을 살려 암호 해독 관련 업무를 하려 했으나, 독일 출신이라 거절당한 적이 있다.
제대 후 학교로 복귀해 학업을 마치고 GE에서 컴퓨터 관련 업무를 하다가, 뱅크오브아메리카에서 대규모 컴퓨터 데이터 처리 프로젝트를 담당하며 언어처리에 관심을 갖게 되었다. 1964년부터 MIT 교수 자리를 얻으며 인공지능(AI)의 한 분야인 자연어 처리 중 질의 응답 시스템을 연구한 결과, 일라이자를 개발하게 됐다.
와이젠바움은 처음부터 자연어 처리 시스템이나 챗봇 같은 AI를 개발하려 한 것은 아니었다. 언어를 분석하는 프로그램으로 간단한 규칙에 따라 컴퓨터가 얼마나 복잡한 응답을 할 수 있는지에 대한 실험이 일라이자 개발로 이어진 것이다.
이를 통해 그는 인간과 기계와의 의사소통이 피상적이라는 점을 보여주려 했다. 사람 간의 대화도 서로 내용을 이해하지 못하는 피상적 대화지만, 이해하는 척하며 적절해 보이는 응답을 할 수 있고 그렇게도 대화를 꽤 오래 이어 나갈 수 있다.
그렇게 개발된 일라이자는 인간과 대화 가능한, 현재의 챗봇과 같은 프로그램으로 사람이 입력한 내용 자체를 이해할 수는 없었다. 그러나 상대의 대화 키워드를 식별하고, 응답에 필요한 최소한의 맥락을 생성하고 적절한 변환을 통해 응답할 수 있도록 개발했다. 또 키워드를 발견하지 못한 경우에는 이전 대화의 일부를 참조해서 응답을 생성하거나, 실제 사람들이 흔히 사용하는 무의미한 내용의 문장으로 응답하도록 설계됐다. 스크립트 편집 기능도 있어 상황에 따라 다른 스크립트를 사용할 수 있었다.
기계와의 소통 방법으로 심리 치료사를 시뮬레이션하는 스크립트를 활용했는데, 이는 ‘로저리안 심리치료(Rogerian Psychotherapy)’ 혹은 ‘인간 중심 치료(Person-Centered Therapy)’라고 하는 심리 치료 방법의 언어 패턴을 활용해서 사람의 입력에 반응하는 스크립트였다. 로저리안 심리치료는 심리학자 칼 로저스(Carl Rogers)가 개발한 것으로, 긍정적 수용을 통한 환자와의 감정적 조화를 중요시하는 심리치료의 한 형태인데, 카운셀링, 교육, 조직 운영 등 다양한 분야에 응용되어 활용되고 있다.
또 일라이자라는 이름은 조지 버나드 쇼의 희곡 ‘피그말리온(Pygmalion)’의 여주인공 이름에서 따온 것이다. 희곡에서 여주인공 일라이자 두리틀은 하층민 노동자였는데, 음성학 교수인 히긴스 박사의 훈련과 학습으로 상류층의 말과 액센트를 배워 상류층 사람으로 대우를 받게 된다.
그렇지만, 와이젠바움의 일라이자는 새로운 단어나 문장의 패턴을 배우는 학습하는 기능은 없고, 프로그램에 내재한 로저리안 심리치료의 대화 패턴을 활용할 뿐이었다.
다음은 1966년 미국 컴퓨팅 저널에 와이젠바움이 기고한 내용 중 실제 젊은 여성과 일라이자 간 대화의 일부다.
여성: 남자들은 모두 똑같아요.
일라이자: 어떤 식으로요?
여성: 그들은 언제나 이런저런 일로 우리를 괴롭히고 있어요.
일라이자: 특별한 예를 생각해 낼 수 있나요?
여성: 글쎄, 내 남자친구는 내가 이곳에 오도록 했어요.
일라이자: 당신의 남자친구가 당신을 이곳에 오도록 했군요.
여성: 그는 내가 거의 늘 우울해한다고 말해요.
일라이자: 우울하다는 소리를 들으니 안됐네요.
여성: 사실이에요. 나는 불행해요.
일라이자: 이곳에 온 게 불행하지 않게 하는 데 도움이 될까요?
여성: 어떤 도움이 필요하다는 건 확실해요.
일라이자: 도움을 받는다면 당신에게 어떤 의미가 있을까요?
여성: 아마도 엄마와 잘 지내는 방법을 배울 수 있을 거예요.
일라이자: 가족에 대해 더 말해보세요.
여성: 엄마는 나를 돌봐줘요.
일라이자: 가족 중 또 누가 당신을 돌보죠?
이 대화를 서로 잘 아는 친구 간의 대화로 본다면 어색한 부분이 있지만, 정신과 의사나 심리치료사에게 찾아가 상담을 받는 과정이라고 본다면 충분히 인간과 대화하고 있다는 느낌이 들 수도 있다. 그래서 와이젠바움도 환자의 단순한 이야기로 시작해서 열린 질문으로 더 많은 대화를 이끌어내는 정신과 의사의 방식을 활용했다.
또 대화 내용에 사용자가 거부감을 느끼지 않도록 일라이자에게 심리치료사라는 인격을 부여했는데, 그 부분 때문에 심리치료 프로그램으로 오인될까 우려한 와이젠바움은 인간과 기계의 의사 소통 연구를 위한 컴퓨터 프로그램이라는 점을 강조했다.
MIT에서 금방 유명해진 일라이자는 다른 학교로도 퍼져 나갔고, 언론에 알려지며 전국적으로 상당한 인기를 얻었다. 심지어 이 프로그램에 빠져들어 몰두하거나, 감정적 집착 현상을 보이는 사람들이 많이 생겨나기도 했으며, 불행하게도 일라이자와 대화 중 부지불식간에 자극을 받은 학생이 자살을 했다는 보고도 있었다. 현재에도 인터넷에는 일라이자 프로그램을 제공하는 사이트가 여럿 있다.
한편, 와이젠바움의 개발 의도와는 전혀 상관없이, 일라이자는 튜링 테스트의 한 예로 많이 언급된다. 튜링 테스트는 컴퓨터가 사람의 지능적 행동을 흉내 낼 수 있는지를 확인하기 위한 실험으로 제안됐는데, 와이젠바움이 밝혔듯 지능을 가진 프로그램이 아님에도 불구하고 일라이자는 튜링 테스트와 동일한 의미 또는 변형된 튜링 테스트의 의미로 사용되기도 했다. 이런 점이 역설적으로 튜링 테스트의 진정한 의미를 훼손했으며, 아직도 그런 현상이 나타나고 있다.
2020년에 폐지됐지만, 최대 10만달러의 상금을 걸고 튜링 테스트에 통과하는 AI를 가리는 ‘뢰브너 상 대회(Loebner Prize Competition)’라는 행사가 있었다. 이는 미국의 발명가인 휴 뢰브너(Hugh Loebner)가 1990년부터 후원해서 매년 개최한 튜링 테스트 대회였다.
대회가 거듭되며 논란이 커졌는데, 이는 참가자들이 대화의 의도를 이해하려 하거나 실제적인 문제를 진지하게 접근하는 지능 구현을 목적으로 하기보다는, 인간을 상대로 대화하고 있다고 믿게 만드는 트릭을 사용하는 경우가 많았기 때문이었다. 그래서 많은 AI 연구자는 이 대회를 단순한 흥행거리로 보고 경멸을 표시하기도 했는데, 마빈 민스키는 뢰브너 상 대회를 중단시킬 수 있는 사람에게 상을 주겠다고 비꼬기도 했다.
문병성 싸이텍 이사 moonux@gmail.com
