표현 학습을 중심으로 딥러닝 연구에 집중
4차 국책 AI대학원 사업 선정으로 타 교수들과의 연구 협조ㆍ협력이 쉬워지길 기대
논문 속 수식 이해하기 위해 수학과 인공지능에 대한 자발적인 추가 학습 필요
편집자 주
AI 연구ㆍ개발은 AI 핵심(AI 아키텍처)과 응용(X+AI)으로 대별하기도 하고, 컴퓨터 비전과 자연어 처리 등으로 구분하기도 한다. 또, 의료분야나 유통분야 등 AI 접목 산업별로 나누기도 한다. 같은 AI대학(원)에 속하더라도 개별 연구실이 어떤 주제를 어떤 방식으로 접근할 것인지는 천차만별이다.
AI타임스는 각 연구실에서 어떤 연구 주제를 어떤 방식으로 접근하고 있는지 한 걸음 더 가까이 다가가 살펴보기로 했다. 프로젝트별 세부 현황을 공개, 공유함으로써 AI 연구 기반 구축과 활성화를 기대하면서...
◇특별취재팀=팀장 권영민, 박혜섭ㆍ박유빈ㆍ정윤아 기자
서울대 ADS(Applied Data Science) 연구실 지도교수 이원종 교수는 박사 시절 이론 위주의 연구를 하다가 졸업 후 산업계로 진출했다. 생각과 달랐던 산업계에 당시 지도 교수와 함께 회사를 창업한 것. 그 후 10년간 회사에서 일한 뒤, 한국으로 돌아와 서울대에 2014년 부임해 9월 학생들을 모집했다.
이 교수는 회사에서 일하면서 연구분야와 관련해 정확하게 이해하고 있으면 도움이 될 것들을 새롭게 알게 되었고, 한편으론 딥러닝 연구 분야와 관련해 답답했던 것들이 개선 가능한지 등 근본적인 질문들도 많이 생겼다. 이러한 경험속에서 그는 연구를 통해 이를 해결하고자 축적된 데이터 분석 경험을 바탕으로 ADS 연구실을 개설했다.
현재 ADSL은 딥러닝의 이론에 초점을 둔다. 프로그램이 구동되는지에 대한 근본적인 이론 연구 위주로 진행된다. 어려운 분야인 만큼 연구생들이 개인적으로 하고 싶은 연구가 있다면 절충하며 연구실을 운영하고 있다.
다음은 이원종 교수와의 일문일답이다.
◆ ADS LAB 석ㆍ박사 연구원 현황이 궁금합니다.
ADS LAB에는 14명의 대학원생이 있으며 대부분 박사 및 석박통합생들입니다. 연구원들 중에는 학사 과정 수료 후 바로 연구실에 들어온 사람도 있습니다. 또는 직장을 다니며 석박과정을 병행하는 경우도 있습니다.
연구실을 운영하며 느낀 점은 회사를 다니다 들어온 경우, 정말 굳은 의지를 갖고 들어온 것이 아니면 버티기 힘들다는 것입니다. 5년간 장기적인 연구를 해야하기 때문에 집중하기 쉽지 않습니다.
연구생들의 학사 전공의 경우, AI와 연관성이 큰 컴퓨터 공학 외에도 타 전공 학생들이 많은 편입니다. 최근 수리과학, 수학 전공생들이 많이 지원하고 있습니다. 수학과 프로그래밍 기반 지식이 탄탄하면 자대생이나 타 전공에 대한 제한은 없습니다. 앞서 말했 듯 응용보단 이론 위주로 진행하기 때문에 잠재력을 중요하게 봅니다.
◆ 세부 연구 주제에 대해 설명해주세요.
연구실의 목표는 '딥러닝 기술은 어떤 원리로 작동하는가'에 대한 근본적인 답을 찾는 것이 목표입니다. 대표적으로 딥러닝이 잘되는 이유가 표현 학습(representation learning) 때문입니다. 하지만 관련 용어에 대한 뚜렷한 정의나 논문이 없기 때문에 까다롭습니다.
현재 표현 학습을 중심으로 한 딥러닝 연구에 집중하고 있습니다. 딥러닝을 활용하면 입력값으로 넣은 데이터가 변형을 거쳐 다른 데이터로 표현이 됩니다. 저희 연구실은 표현된 벡터가 갖고 있는 여러 특징들을 잘 이해하고 더 발전시키는 방법을 연구합니다.
대개 많은 연구들이 자연어처리, 비전 등 응용에 초점을 두고 성능이 좋아지는 방법을 모색합니다. 이는 좋은 표현학습으로 결론이 납니다. ADS LAB은 표현 학습이 어떤 방법으로 설명 가능한지와 공식화 가능한지에 대해 연구합니다.
그리고 딥러닝이 아닌 다른 분야에서 인코딩, 디코딩이 되는 여러 방식들이 존재합니다. 가장 좋은 방식으로 알려져 있는 인간의 지식들과 비교해 딥러닝은 어떤 차이점을 갖는지를 비교 분석합니다. 이 방식은 기존 인공지능 학계에서 해오던 연구 방식은 아니기 때문에 도전적인 연구 방식입니다. 그 과정에서 좋은 아이디어들도 나오고 있습니다.
◆ 산학연은 어떻게 진행되고 있는지요?
외부 연구 과제는 최대한 안하는 것을 목표로 합니다. 과제를 하다 보면 기존의 진행 중인 연구에 차질이 생길 수 있기 때문입니다.
하지만 연구생들의 인건비, 연구 장비 등 비용적인 부분을 충당해야 하기 때문에 아예 하지 않을 수는 없습니다. 과제는 주로 한국연구재단 과제를 합니다. 이론 연구 중심 연구실이기 때문에 단기간에 성과를 내야 하는 연구보단 수행 과정에 중점을 두는 과제를 주로 합니다.
민간 연구 과제도 학생에 따라 인건비가 더 필요한 경우에는 진행합니다. 하지만 연구실이 지향하는 방향과 달라 쉽지는 않습니다. 연구 수행에 좀 더 무게를 두는 과제들을 모색 중입니다.
◆ 지난 4월 서울대는 국책 인공지능대학원에 선정됐습니다. 관련하여 얻는 혜택이 있을까요?
국책 사업에 선정돼 과제비를 지원받을 수 있어 학생 인건비 지원이 가능합니다. 다만, 이제 막 선정된 사업이라 구체적인 계획은 시간이 아직 걸리리라 봅니다.
서울대학교는 전기정보공학부 교수, 컴퓨터 공학부 교수 등을 포함해 AI를 연구하는 교수들이 많습니다. 학교가 행정적 차원에서 인공지능 연구자를 연결해 줄 수 있는 컨트롤 타워를 마련하는 것이 중요합니다. 학내 연구자로서 이번 서울대의 국책 AI대학원 사업으로 타 교수들과의 연구 협조와 협력이 쉬워지길 기대합니다.
◆ 연구원들과의 교류는 어떤가요? 코로나 19로 연구실 운영에 어려움도 있었을 것 같은데요.
어느 연구실이나 마찬가지로 주간 회의를 갖습니다. 그리고 이론 위주의 연구를 진행하기 때문에 학생들이 자발적으로 이론 논문 스터디를 만듭니다. 저 역시 스터디에 참여하고 있습니다. 실제로 스터디를 통해 배운 내용이 연구에 많은 도움이 되었습니다.
몇 년째 이어온 스터디를 확장해 다른 주제로 공부하는 학생이 있다면 그 학생을 초청해 해당 주제와 관련된 스터디 그룹을 만듭니다. 여름에 비교적 스터디가 많이 운영되며 4개의 스터디가 돌아가고 있습니다.
연구실 친목에서 함께 식사하고 얘기를 나누는 것은 큰 부분을 차지합니다. 코로나19로 회식을 최대한 지양하고 있긴 하지만 운영에 어려움은 없습니다. 줌을 통한 비대면 회의로 활발하게 연구를 이어가고 있습니다.
◆ 대학원생 커뮤니티 김박사넷에 따르면, 교수님의 수업에 대한 반응이 매우 좋습니다. 수업은 어떤 식으로 하시는지요?
AI의 전체적인 이론과 흐름을 설명하기보다 방대한 학습량을 감안해 학생들이 빠르게 공부할 수 있도록 강의를 진행합니다. 저의 대학원생 시절을 돌이켜 보면 제대로 읽고 공부했던 책과 논문만 기억에 남고 그것이 쌓여 결국 자신의 실력이 되는 것입니다. 쉬운 설명 덕분에 빠르게 알고 넘어간 것들은 기억에 남지 않습니다.
학사와 석사 과정만 본다면 핵심 위주로 빠르게 배우는 것이 중요합니다. 하지만 박사 과정은 깊은 이론을 스스로 공부하고 깨우쳐야 합니다. 그 지론을 갖고 저는 수업을 합니다.
학생들이 제 수업을 듣기 위해 300~500페이지의 원서를 정독하여 읽어야 합니다. 물론 그만큼 좋은 교재와 논문을 갖고 수업을 개설합니다. 이 정도 분량의 내용은 혼자 읽기 어렵습니다. 수업을 통해 책을 함께 읽고 연습 문제를 푸는 방식으로 수업을 진행합니다. 수업에서 저는 개념을 직관적으로 알려주고 학생들이 책을 정독하도록 합니다. 학생마다 각자의 공부 방식이 있으니 그에 맞게 수업을 들어주시면 좋을 것 같습니다.
◆ 앞으로의 연구 방향에 대해 궁금합니다.
특정 주제에 한정지어 연구를 하지 않습니다. 그렇기 때문에 학생들이 하고자 하는 연구에 초점을 맞춰 앞으로도 연구할 예정입니다.
ADS Lab 지도 교수인 저는 코어 인공지능 연구와 딥러닝의 근본적인 답을 내는 연구를 좋아합다. 제 연구실 학생들도 그 부분을 알기 때문에 자신이 원하는 연구 분야와 제가 주력으로 두는 분야의 공통된 부분에서 연구 주제를 잡는 편입니다. 연구 주제는 스터디를 통해 함께 공부하는 과정에서 자연스럽게 여러 연구 주제로 넘어갑니다.
◆ 마지막으로, ADS Lab 지원을 희망하는 학생에게 한 말씀 부탁드립니다.
수학과 컴퓨터 프로그래밍, 알고리즘에 대한 지식이 탄탄해야 합니다. 또 적어도 한 분야에 잠재력이 있음을 증명할 수 있어야 합니다. 석ㆍ박사 연구원 모집은 결국 같이 공부할 팀원을 모으는 것과 같습니다. 따라서 여러 사람과 잘 지내면서 긴 호흡의 연구를 즐겁게 해 나갈 수 있는 사람이면 좋겠습니다.
입학상담의 경우, 정해진 시기는 크게 없습니다. 요즘은 데이터와 AI에 대한 전반적인 관심도가 높아 준비가 된 학생들이 많이 지원합니다. 서울대학교에서 여름과 겨울에 인턴 프로그램을 시행합니다. 직장인 분들은 어렵겠지만 학부생들은 인턴 프로그램을 통해 연구실을 미리 체험하고 자신의 성향과 잘 맞는지 확인해 보시길 바랍니다.
AI타임스는 ADS 연구실에서 연구 중인 조형헌ㆍ서장원 연구원과 인터뷰를 가졌다. ADS 연구실 지원 동기에 대해 서장원 연구원은 "프로그래밍과 데이터 사이언스 및 인공지능 분야에 흥미를 가졌다. AI 연구를 시작할 때 기술의 핵심을 파악하는 이론 연구를 해보면 좋겠다는 생각이 들었다."라고 말했다.
조형헌 연구원은 삼성전자에서 소프트웨어 엔지니어로 10여년 간 근무하고 2015년 퇴사해 대학원에 진학했다. 진학 당시 이 교수가 소프트웨어 개발 경력자를 모집하던 시기로 비교적 수월하게 들어갈 수 있었다고 밝혔다. 석사를 목표로 대학원에 입학한 그는 이원종 교수의 지도와 경제적 지원으로 올해 박사 학위를 취득했다.
인공지능의 핵심 이론 연구 과정에서 어려움은 없을까? 두 연구원은 논문 속 수식을 이해하기 위해 수학과 AI에 대한 추가적인 노력이 필요하다고 강조했다. 인공지능은 활발히 연구가 이뤄지는 분야다. 서 연구원은 "새롭게 등장한 이론을 따라잡기 위해 끊임 없이 공부해야하는 것이 흥미롭지만 어렵기도 하다."라고 답했다.
연구는 수많은 실패로 채워지지만 희망을 놓지 않는다.
연구는 의지적인 세렌디피티로의 여정과 같다.
서울대 융합과학기술대학원은 다양한 전공과 이력을 가진 사람들을 함께 모여 공부하기 때문에 다채로운 분야를 알아갈 수 있다. 코로나19 유행 전, 다른 연구실과 교류의 장을 자주 가졌지만 현재는 교류가 단절돼 두 연구원은 아쉬움을 표했다.
Q. ADS Lab을 희망하는 예비 연구원에게 한 마디
- 조형헌 연구원(8월 박사 과정 졸업) : 회사를 다니며 처음 대학원 진학을 고민할 때 대학원을 마친 직장 동료들로 부터 '지도교수님이 어떤 분인지가 가장 중요하다'라는 조언을 여러 차례 들은 바 있습니다. 참으로 감사하게도 제가 만난 이원종 교수님은 모든 면에서 귀감이 되는 좋은 멘토이자 강력한 동료 연구자가 되어 주셨습니다. 이원종 교수님과 함께 시간을 보내다 보니, 어느 순간 나도 모르게 연구 능력과 동기 모두 놀랍게 성장했음을 느낄 수 있었습니다.
마지막으로, 뉴턴의 만유인력 법칙(F=m*a) 에 빗대어 떠도는 대학원 농담을 인용하면 학위 취득 기간은 지도 학생의 동기(m) 나 연구 능력(a)이 아닌 지도교수님의 졸업을 시키고자 하는 의지(F)에 따른다고들 합니다. 딥러닝에 대해 보다 근본적으로 이해해 보려는 연구자 분들은 이 절호의 기회를 놓치지 않으시길 바랍니다.
- 서장원 연구원(석박통합과정 3학기 완료) : 코어 인공지능 관련 연구가 어렵고 복잡하게 보일 수 있어도 활발한 연구와 빠르게 발전하는 기술을 이해하는 것은 굉장히 매력적입니다. 인공지능 기술의 발전을 생생하게 체감하고 싶으시다면 코어 인공지능 연구는 좋은 선택이라고 생각합니다.
이원종 교수
▲ 서울대학교 전기공학부 학사
▲ 스탠퍼드대 전기공학부 석ㆍ박사
▲ 서울대학교 AI위원회 위원
▲ 서울대학교 인공지능협동과정 부주임
▲ 서울대학교 AI연구원 운영위원
AI타임스 정윤아ㆍ박유빈 기자 donglee0408@aitimes.com
[관련기사] [AI LAB 탐방①] MIPAL 연구실: 서울대 곽노준 교수, "전공 다양성을 바탕으로 비지도학습 연구에 매진"
[관련기사] [AI LAB 탐방②] LK연구소: 카이스트 서민준 교수, "새로운 지식 창출 NLP 모델 개발이 궁극적 목표"
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com