'AI 대부' 요슈아 벤지오·얀 르쿤은 삼성 AI 포럼에서 무슨 말을 했나?

삼성 AI 포럼 2020이 2일 개최됐다. 

1일 차인 이날에는 전 세계에서 가장 유명한 AI 석학 중 하나인 요슈아 벤지오 캐나다 몬트리올대 교수와 얀 르쿤 미국 뉴욕대 교수 등이 참석해 자신의 성과를 발표했다.

◇ 요슈아 벤지오, 학습되지 않는 상황에서 대처할 수 있는 AI 기술 개발

요슈아 벤지오 교수는  '인과 관계 표현의 발굴(Towards discovering Causal Representations)'을 주제로 강연했다. 그는 학습되지 않는 상황에서 대처할 수 있는 AI 기술 개발을 위해 '인과 관계'에 대해 말했다.

인간은 학습을 하지 않는 영역에서도 문제를 해결하지만 딥러닝은 해결하지 못하는 경우가 있다. 이를 해결하기 위해서 벤지오 교수는 인과 관계를 접목해야 한다고 강조했다.

벤지오 교수는 "새로운 상황들이 학습분포에 일어날 확률이 0이라도 인간은 이런 작업을 잘 해낸다. 하지만 딥러닝은 최근 연구에서 본 것처럼 현재 이런 일을 그렇게 잘 하지 않는다"며 "따라서 인과 관계를 접목해 보다 발전된 '학습 외 분포'를 일반화하는 것의 도움이 될 가정 중 하나는 고차원적인 의미적 변수 간 결합분포 구조를 생각해 보는 것"이라고 설명했다.

벤지오 교수에 따르면, 이 구조는 매우 희소한 특성을 가졌다. 희소의존성은 지금까지 딥러닝에서 배웠던 것과는 상당한 차이가 있다.

그는 "딥러닝에서 고차원적 변수가 상당히 독립적일 것이라 가정했는데, 이런 추측은 무리가 있는 것으로 보인다"며, "강한 의존성 구조를 갖고 있다"고 강조했다.

이어 "진짜로 하고자 하는 것은 어떻게 의미론적 변수로 전환뿐만 아니라 그런 고차원적 표현을 발견해내는 것"이라며 "이런 변수들은 사실상 우리에게 주어지지 않는다. 입력의 함수로서 의미론을 발견하는 것에 대해 그것들의 인과관계를 발견하고자 하는 것이다. 그런 이유로 제가 나누는 상당 부분이 무수한 변수 간의 인과관계를 발견하는 것. 다른 말로 인과관계적 그래프를 발견하는 것과 관련된다"고 덧붙였다.   

이날 벤지오 교수는 학습되지 않은 상황에서도 대처할 수 있는 AI 기술 발전 방향을 제시하고 초기 연구 성과를 관객들에게 소개했다.

벤지오 교수는 세바스찬 승 박사와 함께 이번 삼성 AI 포럼 공동 의장이며, 올해 '삼성 AI 교수'로 선임됐다.

◇얀 르쿤, 자기 지도학습으로 미래 AI 방향성 제시

벤지오 교수에 이어 CNN(합성곱 신경망)을 개척한 얀 르쿤 뉴욕대 교수가 '자기 지도 학습 '자기 지도학습(Self-Supervised Learning)' 관련 최신 모델을 발표했다. 

자기 지도학습은 데이터 내에서 스스로 문제를 만들고 정답을 찾아내 학습하는 방식으로, 사람 수준의 문장을 생성하는 대규모 언어 모델에 적용됐다.

르쿤 교수는 '자기 지도 학습을 위한 에너지 기반 모델'이라는 주제로 인간의 아기가 배우는 과정을 바탕으로 미래의 AI와 머신러닝의 방향성을 제시했다.

르쿤 교수는 "기존 AI/ML 문제는 학습에 사용하는 라벨링 된 샘플과 실험이 적다"며, "감독, 강화 학습은 더무 많은 샘플과 실험을 요구한다"고 지적했다.

하지만 "자기 지도 학습(SSL)은 러닝 의존성을 줄였다"며 "기계는 SSL을 통해 세상에 대한 모델들, 즉 상식을 습득할 수 있을 것"이라고 강조했다.

SSL을 통해 세상을 학습하는 데 사용한 모델에서 끌어낸 결과인 감정을 예측하고, 추론으로 결과에 맞는 행동을 찾을 수 있다는 것이다.

얀 르쿤 교수는 "범용인공지능은 존재하지 않는다"며, "지능은 언제나 특수화된다. 쥐 레벨, 고양이 레벨, 인간 레벨의 AI에 대해 각각 논해야 한다"고 말했다.

이 밖에도 ▲미국 스탠포드대 첼시 핀 교수의 '대칭 현상을 발견하기 위한 신속한 적응' ▲삼성전자 종합기술원 함돈희 펠로(Fellow)의 '두뇌의 재구성 ▲구글 리서치 타라 사이너스 박사의 '음성인식을 위한 종단 모델' 최신 연구 성과 ▲마이크로소프트 리서치 제니퍼 워트만 본 박사의 '기계학습 전반의 이해 가능성 등의 강연이 있었다.

삼성전자는 2일, 3일 이틀간 '삼성 AI포럼 2020'을 온라인으로 개최했다. 올해로 4번째를 맞이한 '삼성 AI포럼'은 세계적인 AI 전문가들이 최신 기술 동향과 연구 성과를 공유하는 자리다. 

첫째 날은 삼성전자 종합기술원 주관으로, 둘째 날은 삼성리서치 주관으로 진행된다.

이번 AI 포럼은 삼성전자 유튜브를 통해 중계되어 전 세계 AI 분야 연구자와 학생들이 세계적인 석학들과 실시간으로 질의응답 하며 교류할 수 있는 기회를 가졌다.

김기남 대표이사(부회장)은 개회사를 통해 "최근 AI 기술이 사람들의 삶에 빠르게 적용되며 긍정적 영향을 주었지만 팬데믹, 자연재해와 같은 대량의 데이터를 필요로 하는 문제들은 현재의 AI 알고리즘과 하드웨어로는 해결이 어려운 도전과제"라며 "삼성전자는 AI 생태계의 핵심 기술 회사로서, 이러한 문제에 관심을 갖고 올바른 해결책을 찾기 위해 전 세계의 연구자들과 적극적으로 협력하고 있다"고 말했다.

[관련기사] LG전자, 첫 ‘AI 포럼’ 개최…토론토 인공지능연구소 주관

[관련기사] ‘AI 대부’ 얀 르쿤, GPT3를 쓰레기 취급하다니···왜?