세계를 놀라게 한 GPT-3 공개, 사람만큼 말 잘하는 인공지능
익명의 논문(16x16)이 일으킨 CNN과 트랜스포머 파문
솔트룩스 등 AI기업 속속 상장, 업스테이지AI 등 스타트업 열풍도
KAIST 인공지능대학원 세계적 약진, 정송ㆍ신진우ㆍ황성주 3인방 견인차

 

◆ 6월 11일 GPT-3 베타버전 출시: 사람만큼 말잘하는 인공지능 GPT-3

NLP의 역사는 GPT-3 공개 전후로 나뉜다고 해도 과언이 아니다. 일론 머스크가 이끄는 오픈AI의 수작 GPT-3는 5월 말 논문이 공개되며 SNS와 미디어에서 폭발적인 반응을 일으켰다. GPT-3는 제시한 단어 다음에 오는 단어를 예측해, 정답을 맞히는 모델로 위키피디아를 포함해 인터넷의 다양한 텍스트 데이터를 학습했다. 1,750억 개에 달하는 파라미터를 가졌다.

9월 22일 GPT-3가 마이크로소프트와 라이센스 독점 계약을 체결하며 무료로 풀렸던 해당 모델의 API 사용이 제한되었다. 이에 비영리 단체로 출발한 오픈AI에서 물러난 일론 머스크는 “출범 당시 추구했던 Open(열린)이 OPEN AI에서 사라지고 마이크로소프트에게 잡아 먹힌 것”이라는 비판적 트윗을 남겼다.

GPT-3는 호응과 인기를 끈 만큼 오해와 논란 속에 거듭 진화 중이다.

[기고] GPT-3는 멋지다. 그러나 여전히 갈 길이 멀다.

◆ 10월 22일 익명의 논문, 16x16 Words : CNN과 트랜스포머 전쟁

2020년 컴퓨터 비전 분야 기념비적 논문은? 
AI타임스가 외부 자문위원들에게 질문을 한 결과, 자문위원들은 한결 같이 ‘이미지는 16X16 단어 만큼 의미있다’ (An Image is Worth 16X16 Words: Transformers for Image Recognition at Scale)’를 빼놓지 않았다. 논문은 자연어처리(NLP)에서만 쓰이던 seq2seq(인코더, 디코더 만 사용) Transformer를 비전분야에 적용했다.

현존하는 딥러닝 활용 비전 기법은 대부분 합성곱 신경망을 기반으로 한다. 하지만 16X16논문 공개 후 트랜스포머가 비전분야에서 주로 쓰이는 합성곱 신경망(Convolutional neural network, CNN)을 뛰어넘는 기술이 될 수 있음을 시사했다.

12월 22일 CNN과 트랜스포머는 상호 대체가 아닌 상호 보완할 수 있다는 연구가 발표되기도 했다.

고고학자 도와 연구 속도 높여주는 CNN 신경망

◆ 7월 23일 솔트룩스 상장... AI 기업 속속 IPO행, 스타트업 창업 붐

지난 7월 공모가 2만5천원으로 상장된 솔트룩스는 AI 플랫폼의 대표주자격. 주가는 12월30일 종가 기준 3만4400원. 공모가 대비 37.6% 오른 셈이다. 공모 당시 1조 7879억의 청약금이 몰려 최종 경쟁률 953.53대 1을 기록했다.

뒤를 이어 머신러닝·빅데이터 기업인 위세아이텍이 코스닥 시장으로 이전 상장했고, 마인즈랩·뷰노·루닛 등 AI기업들도 속속 상장을 준비하고 있다.

스타트업 열기도 가열되고 있다. 한국의 '앤드류 응'으로 불리는 홍콩과기대 김성훈 교수는 10월 이활석 전 네이버 클로바 AI리더 등과 함께 스타트업 업스테이지AI를 창업했다.

이같은 우리나라 AI스타트업 동향에 대해 네이버 양상훈 리더는 ▲1998년 인터넷 AI ▲2004년 사업 AI ▲2011년 인지 AI ▲2015년 자율주행 AI 등 인공지능(AI) 산업 발전 4단계의 흐름이 "우리나라에서는 압축적이고 동시다발적으로 일어나고 있다”고 설명하기도 했다.

AI를 테마로 한 수많은 스타트업 창업 열풍은 2021년에도 지속될 전망이다.

"20년간의 열정을 AI데이터로 쌓았다"...이경일 솔트룩스 대표

◆ KAIST AI대학원 세계적 약진, 정송ㆍ신진우ㆍ황성주 3인방 견인차

올 한 해 카이스트 인공지능(AI)대학원을 이끌고 있는 정송 대학원장과 신진우ㆍ황성주 교수 등 3인방이 돋보였다.

세계적인 인공지능(AI) 학회 ‘뉴립스(NeurIPS)2020’는 20건, 국제인공지능학회(AAAI)는 8편의 카이스트 인공지능(AI) 대학원 논문을 통과시켰다. 12월26일 CSRANKINGS.ORG는 머신러닝(ML) 및 데이터 마이닝 연구분야에서 카이스트를 세계 6위로 꼽았다. 인공지능 학계의 탑티어가 모두 KAIST의 세계적 수준을 인정한 셈이다.

'호사다마'인가?... 카이스트는 12월16일 동원그룹 김재철 명예회장으로부터 5백억원 사재 출연을 약정받는 호재도 이어졌으나, AI대학원 서울 양재 이전을 놓고 내부 갈등도 빚어졌다.

카이스트 졸업생이기도 한 경희대 빅데이터응용학과 이경전 교수는 "카이스트는 늘 치열한 내외부 전쟁을 통해 그나마 이렇게 성장한 학교"라며 "치열하게 싸우시면서 성장하길 바란다"고 자신의 페이스북을 통해 촌평했다.

국제컨퍼런스 NIPS에 카이스트 논문 30편, 일본 국가 전체와 맞먹어
[특집] "입학정원 늘리고 세계적 AI 아키텍트 키워낼 것"...정송 KAIST AI대학원장

AI타임스 특별취재팀 news@aitimes.com

키워드 관련기사
  • [AI 뉴스 TOP 12 - 하편 ] 흔들리는 인텔, 엔비디아 GPU 왕조에 구글 ㆍMSㆍ아마존 독자 노선
  • [AI 뉴스 TOP 12 - 중편 ] 50년 난제 구글 딥마인드가 풀다, 알파폴드 2
  • [송구영신 특집] AI타임스가 선정한 '2020년 AI 뉴스 TOP 12'