구글의 반격! 25초 학습으로 GPT3와 경쟁한다 < 기술 < 기사본문 - AI타임스

구글의 반격! 25초 학습으로 GPT3와 경쟁한다

이윤정 기자
입력 2020.07.31 12:20
수정 2020.08.13 11:50
댓글 0
좋아요 0

이 기사를 공유합니다

구글 슈퍼컴퓨터로 AI모델 학습 평균 25초
TPU ver3 보다 2.7배 성능 향상된 ver 4 소개

구글의 새로운 슈퍼컴퓨터가 MLPerf의 기록을 새로 세웠다. 최근 오픈AI가 일으킨 'GPT3 붐'에 맞서 구글이 25초 만에 인공지능 모델을 학습시키는 머신러닝 슈퍼컴퓨터를 30일(현지 시각) 발표했다(https://cloud.google.com/blog/ ).

MLPerf는 구글, 하버드, 스탠포드 등 글로벌 기업 및 대학들이 주최하는 글로벌 AI칩 성능 테스트. MLPref 테스트 결과는 업계에서 AI하드웨어 성능 측정기의 지표로 활용되고 있다.

이번 MLPerf 훈련에 사용한 구글의 슈퍼컴퓨터는 지금까지 최고 기록을 세운 클라우드 TPUv3보다 용량이 4배 더 크다. 새로운 슈퍼컴퓨터는 TPU(Tensor Processing Unit) 칩 4096개를 탑재했다. TPU칩은 구글에서 자체 개발한 데이터 분석 및 딥러닝용 칩이다.

사진=구글 클라우드 블로그

구글은 "슈퍼컴퓨터로 AI모델 학습 훈련 위해 텐서플로우, JAX, Lingvo등의 머신러닝 플랫폼 사용했다"며 "이번 MLPerf 성능 테스트에서 8개 카테고리 중 6부문에 새로운 기록을 세웠다"고 전했다.

사진=구글 클라우드

버트(Bidirectional Encoder Representations from Transformers, BERT) △트랜스포머(Transformer) 등 6개 모델은 'from Scratch' 학습 테스트를 받았다. 각 모델이 학습 완료까지 걸린 시간을 25초 내외. 'from Scratch' 아무 사전 지식 없이 학습을 시작하는 것을 뜻한다.

구글은 4세대 TPU칩을 곧 상용화할 것으로 보인다. 4세대 TPU는 MLPerf에서 기존 3세대보다 2.7배 이상의 성능을 기록했다.

[Life & 교육] GPT3, 전세계에 강펀치! 구글ㆍ네이버 검색량 최고치

[AI & Tech] GPT-3 활용 사례 BEST 5

에릭 슈미트 구글 전CEO, AI인재 양성 대학 설립

애플·구글, 면접에서 뭘 질문할까?

GPT 인기몰이, 사례 모아놓은 닷컴 등장. 깃허브ㆍ트윗이어 웹사이트까지

Copyright © '인공지능 전문미디어' AI타임스 (http://www.aitimes.com)
무단전재 및 재배포 금지

기사제보 및 보도자료 news@aitimes.com

이윤정 기자 elin@aitimes.com

다른기사 보기

기사 댓글 0

Array ( [0] => Array ( [data] => Array ( [0] => 정책 [1] => S1N1 [2] => [3] => [4] => N [5] => ) ) [1] => Array ( [data] => Array ( [0] => 산업 [1] => S1N3 [2] => [3] => [4] => N [5] => ) [child] => Array ( [0] => Array ( [data] => Array ( [0] => S1N3 [1] => 산업일반 [2] => S2N48 [3] => [4] => N [5] => ) ) [1] => Array ( [data] => Array ( [0] => S1N3 [1] => 메타버스 [2] => S2N50 [3] => [4] => N [5] => ) ) [2] => Array ( [data] => Array ( [0] => S1N3 [1] => AI 기업 [2] => S2N51 [3] => [4] => N [5] => ) ) [3] => Array ( [data] => Array ( [0] => S1N3 [1] => 말·말·말 [2] => S2N101 [3] => [4] => N [5] => ) ) [4] => Array ( [data] => Array ( [0] => S1N3 [1] => English News [2] => S2N102 [3] => [4] => N [5] => ) ) [5] => Array ( [data] => Array ( [0] => S1N3 [1] => 인터뷰 [2] => S2N109 [3] => [4] => N [5] => ) ) ) ) [2] => Array ( [data] => Array ( [0] => 기술 [1] => S1N24 [2] => [3] => [4] => N [5] => ) [child] => Array ( [0] => Array ( [data] => Array ( [0] => S1N24 [1] => 뉴테크 [2] => S2N103 [3] => [4] => N [5] => ) ) ) ) [3] => Array ( [data] => Array ( [0] => Art & Living [1] => S1N25 [2] => [3] => [4] => N [5] => ) [child] => Array ( [0] => Array ( [data] => Array ( [0] => S1N25 [1] => Art [2] => S2N56 [3] => [4] => N [5] => ) ) [1] => Array ( [data] => Array ( [0] => S1N25 [1] => Living [2] => S2N55 [3] => [4] => N [5] => ) ) ) ) [4] => Array ( [data] => Array ( [0] => 교육 [1] => S1N26 [2] => [3] => [4] => N [5] => ) [child] => Array ( [0] => Array ( [data] => Array ( [0] => S1N26 [1] => AI 교육 [2] => S2N58 [3] => [4] => N [5] => ) ) [1] => Array ( [data] => Array ( [0] => S1N26 [1] => AI대학원 [2] => S2N59 [3] => [4] => N [5] => ) ) [2] => Array ( [data] => Array ( [0] => S1N26 [1] => AI융합연구센터 [2] => S2N60 [3] => [4] => N [5] => ) ) ) ) [5] => Array ( [data] => Array ( [0] => 인물 [1] => S1N27 [2] => [3] => [4] => N [5] => ) [child] => Array ( [0] => Array ( [data] => Array ( [0] => S1N27 [1] => AI초대석 [2] => S2N61 [3] => [4] => N [5] => ) ) [1] => Array ( [data] => Array ( [0] => S1N27 [1] => 글로벌LAB 젊은 과학자 [2] => S2N62 [3] => [4] => N [5] => ) ) [2] => Array ( [data] => Array ( [0] => S1N27 [1] => 동정 [2] => S2N63 [3] => [4] => N [5] => ) ) [3] => Array ( [data] => Array ( [0] => S1N27 [1] => 인사/부음 [2] => S2N64 [3] => [4] => N [5] => ) ) ) ) [6] => Array ( [data] => Array ( [0] => 오피니언 [1] => S1N28 [2] => [3] => [4] => N [5] => ) [child] => Array ( [0] => Array ( [data] => Array ( [0] => S1N28 [1] => 칼럼 [2] => S2N65 [3] => [4] => N [5] => ) ) [1] => Array ( [data] => Array ( [0] => S1N28 [1] => 기고 [2] => S2N66 [3] => [4] => N [5] => ) ) [2] => Array ( [data] => Array ( [0] => S1N28 [1] => 기자수첩 [2] => S2N67 [3] => [4] => N [5] => ) ) [3] => Array ( [data] => Array ( [0] => S1N28 [1] => 박정현의 데이터사이언스 [2] => S2N68 [3] => [4] => N [5] => ) ) [4] => Array ( [data] => Array ( [0] => S1N28 [1] => 조금원의 디지털 세상 이야기 [2] => S2N69 [3] => [4] => N [5] => ) ) [5] => Array ( [data] => Array ( [0] => S1N28 [1] => 조영임의 AI단상 [2] => S2N70 [3] => [4] => N [5] => ) ) [6] => Array ( [data] => Array ( [0] => S1N28 [1] => 옴부즈만 [2] => S2N96 [3] => [4] => N [5] => ) ) ) ) [7] => Array ( [data] => Array ( [0] => 포커스 [1] => S1N32 [2] => [3] => [4] => N [5] => ) [child] => Array ( [0] => Array ( [data] => Array ( [0] => S1N32 [1] => AI만평 [2] => S2N90 [3] => [4] => N [5] => ) ) [1] => Array ( [data] => Array ( [0] => S1N32 [1] => 주간 AI [2] => S2N91 [3] => [4] => N [5] => ) ) [2] => Array ( [data] => Array ( [0] => S1N32 [1] => 포토/영상 [2] => S2N98 [3] => [4] => N [5] => ) ) [3] => Array ( [data] => Array ( [0] => S1N32 [1] => 그래픽 [2] => S2N92 [3] => [4] => N [5] => ) ) [4] => Array ( [data] => Array ( [0] => S1N32 [1] => 영상 [2] => S2N94 [3] => [4] => N [5] => ) ) [5] => Array ( [data] => Array ( [0] => S1N32 [1] => 리스티클 [2] => S2N93 [3] => [4] => N [5] => ) ) [6] => Array ( [data] => Array ( [0] => S1N32 [1] => 왔다!AI [2] => S2N104 [3] => [4] => N [5] => ) ) [7] => Array ( [data] => Array ( [0] => S1N32 [1] => Chat with AI [2] => S2N106 [3] => [4] => N [5] => ) ) [8] => Array ( [data] => Array ( [0] => S1N32 [1] => 오픈-Ko LLM 리더보드 [2] => S2N107 [3] => [4] => N [5] => ) ) [9] => Array ( [data] => Array ( [0] => S1N32 [1] => AI주크박스 [2] => S2N108 [3] => [4] => N [5] => ) ) ) ) [8] => Array ( [data] => Array ( [0] => 이벤트 [1] => S1N29 [2] => [3] => [4] => N [5] => ) [child] => Array ( [0] => Array ( [data] => Array ( [0] => S1N29 [1] => NVIDIA GTC [2] => S2N97 [3] => [4] => N [5] => ) ) [1] => Array ( [data] => Array ( [0] => S1N29 [1] => IFA [2] => S2N71 [3] => [4] => N [5] => ) ) [2] => Array ( [data] => Array ( [0] => S1N29 [1] => CES [2] => S2N72 [3] => [4] => N [5] => ) ) [3] => Array ( [data] => Array ( [0] => S1N29 [1] => CES 2023 [2] => S2N99 [3] => [4] => N [5] => ) ) [4] => Array ( [data] => Array ( [0] => S1N29 [1] => AI 갤러리 [2] => S2N100 [3] => [4] => N [5] => ) ) [5] => Array ( [data] => Array ( [0] => S1N29 [1] => AI & BIG DATA SHOW [2] => S2N105 [3] => [4] => N [5] => ) ) ) ) [9] => Array ( [data] => Array ( [0] => 스페셜 리포트 [1] => S1N30 [2] => [3] => [4] => N [5] => ) [child] => Array ( [0] => Array ( [data] => Array ( [0] => S1N30 [1] => 찬이의 IT교실 [2] => S2N74 [3] => [4] => N [5] => ) ) [1] => Array ( [data] => Array ( [0] => S1N30 [1] => 칼럼이 있는 AI 톡 [2] => S2N75 [3] => [4] => N [5] => ) ) [2] => Array ( [data] => Array ( [0] => S1N30 [1] => 일상으로 파고드는 AI기술 [2] => S2N76 [3] => [4] => N [5] => ) ) [3] => Array ( [data] => Array ( [0] => S1N30 [1] => AI와 클라우드 [2] => S2N77 [3] => [4] => N [5] => ) ) [4] => Array ( [data] => Array ( [0] => S1N30 [1] => 스포츠, AI를 만나다 [2] => S2N78 [3] => [4] => N [5] => ) ) [5] => Array ( [data] => Array ( [0] => S1N30 [1] => 춤추는 AI개발자 연봉 [2] => S2N79 [3] => [4] => N [5] => ) ) [6] => Array ( [data] => Array ( [0] => S1N30 [1] => 로봇이 온다 [2] => S2N80 [3] => [4] => N [5] => ) ) [7] => Array ( [data] => Array ( [0] => S1N30 [1] => 이미지와 비전 AI [2] => S2N81 [3] => [4] => N [5] => ) ) [8] => Array ( [data] => Array ( [0] => S1N30 [1] => 블록체인 쿼바디스? [2] => S2N82 [3] => [4] => N [5] => ) ) [9] => Array ( [data] => Array ( [0] => S1N30 [1] => 코로나와 AI [2] => S2N83 [3] => [4] => N [5] => ) ) [10] => Array ( [data] => Array ( [0] => S1N30 [1] => 광주의 AI교육 [2] => S2N84 [3] => [4] => N [5] => ) ) [11] => Array ( [data] => Array ( [0] => S1N30 [1] => AI 저널리즘을 부탁해 [2] => S2N85 [3] => [4] => N [5] => ) ) [12] => Array ( [data] => Array ( [0] => S1N30 [1] => 자율주행차 사고 어떻게 볼 것인가 [2] => S2N86 [3] => [4] => N [5] => ) ) [13] => Array ( [data] => Array ( [0] => S1N30 [1] => 김미정의 로빌리티 뿌뿌 [2] => S2N95 [3] => [4] => N [5] => ) ) ) ) [10] => Array ( [data] => Array ( [0] => Global [1] => S1N13 [2] => [3] => [4] => N [5] => ) ) [11] => Array ( [data] => Array ( [0] => Feature [1] => S1N35 [2] => [3] => [4] => N [5] => ) ) [12] => Array ( [data] => Array ( [0] => Future Energy [1] => S1N34 [2] => [3] => [4] => N [5] => ) ) [13] => Array ( [data] => Array ( [0] => 체험기 [1] => S1N33 [2] => [3] => [4] => N [5] => ) ) )