딥러닝 창시자인 요슈아 벤지오(Joshua Benjio) 캐나다 몬트리올대 교수가 인간에 가까운 인공지능(AI)을 완성하기 위해선 머신러닝(ML)의 배경이 되는 이론적 가정에서 벗어나야 한다고 주장했다. 현재 AI 학습에 많은 부분을 차지하는 딥러닝은 사람의 무의식에서 이뤄지는 인지능력에 가까운 학습방식이기 때문에 사람이 의식하는 인지능력을 실현할 수 있는 새로운 학습 모델이 필요하다고 밝혔다. 이러한 모델이 개발돼야 '설명할 수 있는 AI'가 가능해진다는 주장이다.
요슈아 벤지오 교수는 24일과 한국전자통신연구원(ETRI)이 개최한 'ETRI 컨퍼런스 2022'에서 "사람은 두 종류의 인지능력을 가지고 있는데 하나는 무의식에서 이뤄지는 인지능력이고 다른 하나는 논리적인 차원에서 이뤄지는 인지능력"이라며 "현재 AI 개발에 사용되는 딥러닝은 무의식에서 이뤄지는 인지능력에 가깝다"고 말했다. 이어 "AI가 논리적인 차원에서 이뤄지는 인지능력을 갖추기 위해선 ML의 배경이 되는 이론적 가정에서 벗어나 인과관계를 학습할 필요가 있다"고 주장했다.
여기서 이야기된 사람의 두 가지 인지능력은 시스템1과 시스템2로 나뉜다. 시스템1은 무의식적인 흐름에 따른 인지능력이다. 시스템2는 느린 사고로 이뤄지는 즉 사람이 의식해서 행동하는 인지능력을 뜻한다.
두 가지 인지능력은 운전과 비교하면 이해가 쉽다. 우리가 운전할 때 익숙한 길이면 음악을 듣기도 하고 옆 사람과 자유롭게 대화를 나눈다. 여기서 운전은 시스템1의 인지능력으로 이뤄진다.
하지만 생소한 길을 운전할 때는 다르다. 음악을 듣거나 동승자와 이야기를 나누기보단 운전에 집중하게 된다. 의식적으로 주의를 기울여야 교통사고가 나지 않기 때문이다. 여기서 사용되는 인지능력이 시스템2이다.
요슈아 벤지오 교수는 AI와 비교하면 딥러닝은 시스템1의 인지능력에 가깝다고 설명했다. 딥러닝은 AI가 바둑에서 왜 그 수를 두었는지, 고양이 사진을 왜 고양이라고 인지했는지 정확히 설명하지 못한다. 사람이 무의식에서 한 행동을 제대로 설명하지 못하는 것과 비슷하다.
벤지오 교수는 AI를 개발할 때 딥러닝에 더해 시스템2의 인지능력을 더한다면 설명할 수 있는 AI가 가능해질 것으로 전망했다. 그는 "시스템2 인지능력은 순차적이고 논리적으로 이뤄나기 때문에 말로 설명할 수 있다"며 "여기에는 알고리즘을 설계하거나 계획을 세우거나 추론을 하거나 할 때 일어나는 모든 것들이 포함된다"고 말했다.
그는 AI에 시스템2 인지능력을 더하기 위해선 테스트 데이터가 학습 데이터와 동일한 분포에서 나온다는 기존 ML의 이론적 가정에서 벗어나야 한다고 밝혔다. 전체 분포가 아닌 인과관계 부분만 고려한 학습방식을 도입해야 한다고 주장했다.
벤지오 교수는 "지금 이뤄지는 지구의 현상과 달의 현상을 비교하면 동일한 물리학 법칙이 적용되지만 조건이 다르기 때문에 전혀 다른 분포가 나오게 된다"며 "현재 ML은 이러한 분포를 학습하는데 중점을 두지만, 앞으로는 왜 이러한 분포가 나오게 되었는지 인과관계에 대해 학습할 필요가 있다"고 설명했다. 이어 "이러한 학습 방법이 설명할 수 있는 기초역학의 토대가 될 것"이라며 "이 때문에 인과관계 기계학습이 최근 AI 연구 분야에서 매우 성장하는 분야 중 하나가 되고 있다"고 말했다.
요수아 벤지오 교수는 제프리 힌튼, 앤드류 응, 얀 르쿤과 함께 AI 4대 천왕이라 불리는 인물이다. 알고리즘의 한계를 수학적으로 밝혀낸 일화로 유명하다. AI 알고리즘인 GAN(Generative Adversarial Nets)을 창시했다. 딥러닝 전문 연구기관인 MILA 연구소를 설립해 글로벌 기업과 차세대 AI 기술을 개발하고 있다. 삼성전자도 2014년부터 MILA와 협력해 AI 알고리즘을 개발 중이다.
AI타임스 김동원 기자 goodtuna@aitimes.com
