전문가 19명 논문 발표..."현재는 의식을 가진 AI가 없다" 결론
인공지능(AI) 전문가와 인지과학자, 철학자 등 19명의 전문가가 AI에 의식이 있는지를 밝히기 위해 다양한 과학적 방법을 동원했다. 그들은 이에 대한 답을 당장 내리는 것보다 방법을 꾸준히 개발하는 것이 중여하다고 강조했다. 어쨌든 결론은 "현재 AI에는 의식이 없다"는 것이다.
사이언스와 뉴욕타임스는 최근 딥러닝 창시자로 알려진 요슈아 벤지오 몬트리올대학교 교수 등 17명의 공동 연구진이 'AI의 의식: 의식 과학의 통찰'이라는 논문을 온라인 사이트(arXiv)에 게재했다고 소개했다.
이에 따르면 연구진은 벤지오 교수를 비롯해 비영리 단체인 AI 안전 센터 소속의 철학가 로버트 롱, 메건 피터스 CAU 사회과학부 인지과학부 교수. 패트릭 버틀린 옥스퍼드대학교 인류 미래 연구소 연구원 등 컴퓨터 지능 문제를 다루는 전문가로 구성됐다.
연구진은 AI에 지능이 '있다, 없다'를 따지는 단답형의 테스트가 아니라, AI가 의식이 있음을 암시할 수는 있지만 증명할 수는 없는 속성에 대한 체크 리스트를 만들었다. 지난달 공개한 120페이지 분량의 논문에는 인간 의식 이론을 활용한 14가지 기준을 '챗GPT'와 '바드', '빙', 중국 바이두의 '어니봇' 등에 적용한 결과가 실려 있다.
결론은 현재 AI 중 의식을 가지고 있는 모델은 없다는 것이다. 그러나 연구진은 이 문제에 대해 답을 내기 어렵다는 점을 강조하고, 또 향후 방법을 개발해야 한다는 쪽에 중심을 맞췄다.
연구진은 '의식'이라는 단어를 정의하는 것부터 시작했다고 전했다. 또 사람이나 동물처럼 뇌파 등을 측정할 수 없기 때문에, '이론 중심의 접근 방식'을 취했다. 기존 사람과 동물에 적용하던 이론을 기계에 적용하는 식이다.
6가지 이론이 중요한 체크 포인트였다. 그중에는 피드백 루프를 통해 정보를 전달하는 것이 의식의 핵심이라고 제안하는 '반복 처리 이론'과 독립적인 정보 흐름이 병목 현상을 통과해 컴퓨터 클립보드와 유사한 작업 공간에 결합할 때 의식이 발생하는 것으로 판단하는 '글로벌 신경 작업 공간 이론'이 포함돼 있다.
또 고차원 이론에서는 의식이 감각에서 받은 기본 입력을 표현하고 주석을 다는 과정을 포함한다고 제안하며, 주위를 통제하는 메커니즘의 중요성과 외부 세계로부터 피드백을 받는 신체의 필요성을 강조하는 이론도 동원했다.
이를 통해 연구진은 의식 상태에 대한 14개의 지표를 추출, 현재 공개된 유명 AI 모델에 적용했다.
그중 다양한 센서를 통해 주변 환경을 파악하는 구글의 '팜-E(PaLM-E)'는 '기관과 구현'이라는 기준을 충족했다. 시뮬레이션된 3D 공간에서 아바타를 제어하도록 훈련된 딥마인드의 'AdA(Adaptive Agent)'는 공간 인식이 가능하다는 이유로 높은 점수를 받은 것으로 나타났다.
하지만 어떤 모델도 동시에 여러 분야에서 합격점을 받은 사례가 없기 때문에, 강력한 후보는 없다는 결론이다.
연구진은 이번 연구가 불완전하고 이제 시작에 불과하다고 강조했다. 그레이스 린제이 뉴욕대학교 심리학 및 신경과학 교수는 “보고서 결론이 의미가 있으려면 이론이 정확해야 하지만, 기존 이론을 AI에 적용하는 것은 무리”라며 ”이번 연구가 현재 우리가 할 수 있는 최선일 수도 있다"고 말했다.
게다가 AI 내부에서 어떤 일이 일어나는지 파악할 수 없는 '블랙박스' 문제로 인해 연구가 제한적일 수밖에 없다고 인정했다. 또 AI에 확인할 지표가 많을수록 의식을 파악할 가능성이 높아진다고 추론했다.
하지만 로버트 롱은 "이 연구는 점점 더 인간과 유사한 AI를 평가하기 위한 프레임워크를 제공한다"며 “이전에는 부족했던 체계적인 방법론을 도입했다는 것에 의의가 있다”고 밝혔다.
아딜 라지 모나쉬대학교 전산 신경과학자이자 캐나다 고등연구연구소(CIFAR) 연구원은 "우리 모두는 답을 찾기보다는 토론을 시작하고 있다"며 "체크리스트 작업은 앞으로도 계속 진행해야 할 것"이라고 전했다.
임대준 기자 ydj@aitimes.com
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com