제프리 힌튼, 인공신경망 기반 딥러닝을 탄생시킨 장본인
2015년 구글 브레인 참가, 연구 의욕 드러내
새로운 도전 영역, 추론과 직관 남아
힌튼, 딥러닝의 진화된 모델, 글롬(GLOM)을 통해 인공신경망 난제 푼다
인공지능(AI) 연구가 인간의 사고 영역에 한 걸음 더 다가섰다. 딥러닝의 창시자 제프리 힌튼 교수(Geoffrey E. Hinton)가 그의 기존 이론을 능가하는 새로운 개념을 들고 나왔기 때문이다.
캐나다 토론토대학 컴퓨터학과 교수이자, 구글 캠퍼스 연구원인 그는 딥 러닝(Deep Learning) 이론을 만든 석학이다. 그는 70대 고령에도 불구하고, 아직도 왕성한 의욕을 갖고 연구에 매진하고 있다.
그는 지난 2월 말에 트위터를 통해 아카이브(arXiv) 출판 전 논문에 44쪽 분량의 논문을 게재했다고 발표했다. 그것은 ‘신경망에서의 부분-전체 계층 구조 표현 방법(How to represent part-whole hierarchies in a neural network)’이다.(관련 논문 다운로드)
지난 27일 자 ‘MIT 테크놀러지 리뷰’에는 힌튼 교수의 이번 논문에 관한 인터뷰 기사가 실렸다. 여기서 그는 “이 논문은 작동시스템을 기술하지 않는다”고 밝혔다. 대신에 가상시스템 ‘글롬(GLOM)’이란 신조어를 사용했다. 글롬은 인간 뇌 신경의 시냅스와 비슷한 수리적 컴퓨팅 시스템이다.
인공지능(AI) 기술이 눈부신 발전을 거듭하고 있지만, 과연 인간의 뇌를 닮은 신경망을 컴퓨터의 인공지능이 가질 수 있을까?
이 연구는 1943년도로 거슬러 올라간다. 처음에 과학자들은 머신 러닝 기법에 기대를 걸었으나 실패했다. 90년대까지 별다른 진전이 없었는데 21세기 중반에 들어서면서 힌튼 교수의 딥러닝 기술이 획기적인 발전을 이뤄냈다.
힌튼, 인공신경망을 꿈꾸다
1950년대 말, 코넬대 심리학자 프랭크 로젠블랏은 인공신경망 퍼셉트론(Perceptron) 프로젝트를 시작했다. 이 퍼셉트론의 신경망은 단층으로 이뤄져 있었으며, 기계에 어떤 명령을 입력하면 단순히 그 명령만을 수행할 뿐이었다. 패턴 분석과 같은 고급 기술은 할리우드 SF영화에나 나올법한 이야기이었다.
90년대까지도 이런 상황이 이어졌다. 이 당시에도 힌튼은 뇌를 닮은 인공신경망을 생각하고 있었지만, 사회적 연구 분위기는 심한 부침을 반복했다.
그는 뉴욕타임스와의 인터뷰에서 “이 분야에 대한 사람들의 관심이 갑자기 증폭했죠. 하지만 우리는 사안을 너무 부풀려 선전했어요. 관심은 이내 시들고 말았죠.”라고 말했다.
그러나 힌튼의 집념은 결국 인공신경망에 기반을 둔 딥러닝을 탄생시켰다. 이 획기적인 발전은 기존의 인공지능을 더욱 빠르고 정교하게 만들었다. 뇌를 닮은 인공신경망의 희망이 보였다. 구글과의 만남은 더욱 박차를 가하는 계기가 됐다.
지난 2015년 4월 17일 미국 과학기술 매거진 ‘과학과 기술(Science and Technology)’은 64세의 나이로 제프리 힌튼이 토론토를 떠나서 구글 브레인의 일원이 됐다고 보도했다.
힌튼은 토론토 대학교수직을 단 석 달 동안만 떠났으며, 늦은 나이에도 구글 캠퍼스의 인턴이 됐다. 한참 어린 대학생들의 조롱 섞인 시선에도 같이 인턴 교육을 받았다.
그리고 지난 2016년 12월 14일 뉴욕타임스는 “The Great A.I. Awakening”이란 제하로 구글 번역기에 관한 분석 기사를 실었다. 뉴욕타임스는 구글 번역기가 인간의 신경망을 본뜬 딥러닝을 적용해 기존의 번역기와는 차원이 다른 인공지능 번역기라고 소개했다.
이런 성공 후에도 연구 의욕은 사그라지지 않았다. 그는 언론과의 인터뷰에서 "사람들이 여기서 하는 일은 미래입니다,"라며 “저는 결코 은퇴하지 않을 것 같아요."라고 밝혔다.
딥러닝에서 진화한 ‘글롬(GLOM)’
지난 2017년 4월 뉴욕타임스를 비롯한 세계 언론은 AI 전문 연구기관 '벡터 연구소(Vector Institute)'가 캐나다 온타리오에 생긴다는 기사를 실었다.
벡터 연구소는 인간 두뇌의 신경 회로를 시뮬레이션해 대규모의 데이터를 계산하는 기술인 딥러닝을 중점적으로 개발할 것으로 알려졌다. 힌튼 교수는 수석 자문관으로서 참여했다. 그의 다층 인공신경망 연구는 고령에도 불구하고 계속됐으며 논문도 나왔다.
이번 논문을 두고, AI 전문가들은 ‘글롬(GLOM)’이란 단어에 집중하며, ”딥러닝의 진화된 모델“이라고 평가했다.
힌튼 교수는 논문에서 ”인간의 뇌는 ‘파스 트리(parse tree)’라고 불리는 기능으로 전체-부분 관계를 이해한다. 파스 트리는 전체와 부분, 하위 부분 간의 계층적 관계를 보여주는 트리 형태다.”라고 말했다. 일례로, 얼굴은 트리의 가장 높이 있고, 구성요소인 눈, 코, 귀, 입은 아래 가지를 형성한다.
그에 따르면 다층 인공신경망 연구에는 여전히 주요 난제들이 남아 있는데 인공지능이 물체의 부분-전체를 이해하기 어려운 점들도 그 중의 하나라는 것.
힌튼은 일부 전문가들의 비평에도 불구하고, 글롬을 통해 이 문제를 해결할 것이며, 이는 딥러닝 기술과는 다르다고 논문에서 밝혔다.
그는 “글롬이 언제든 작동한다면, 이는 현재의 인공신경망보다 훨씬 더 인간과 비슷한 방식으로 지각하게 될 것”이라는 희망 섞인 메시지를 전달했다.
AI타임스 조행만 객원기자 chohang5@kakao.com
[관련 기사]'AI 구루' 제프리 힌튼 교수, 3D 포인트 클라우드 위한 캡슐 아키텍처 제시
[관련 기사]삼성 AI 2020엔 없는 제프리 힌튼 인터뷰 "딥러닝으로 인간 이성 구현 가능할 것" MIT테크 보도
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com