추론, 코딩 및 수학 문제 해결 능력 향상
구글이 지난해 공개한 대규모 언어 모델(LLM) ‘팜(PaLM)’을 활용해 ‘바드(Bard)’의 기능을 업그레이드 했다. 추론, 코딩 및 수학 문제 해결 능력을 향상시켰다.
순다르 피차이 구글 CEO는 31일(현지시간) 뉴욕타임스 인터뷰에서 지난해 공개한 고급 언어 모델인 ‘팜’ 기술을 사용해 인공지능(AI) 챗봇 ‘바드’의 기능을 이같이 업그레이드했다고 밝혔다.
잭 크로치크 바드 제품 관리자는 트위터에서 업데이트를 출시했다고 확인했다. 또 새로운 버전의 바드가 다단계 텍스트 프롬프트를 더욱 안정적으로 해결할 수 있다는 말도 덧붙였다.
구글은 특히 이번 업그레이드로 바드의 소프트웨어 코드 생성 능력이 대폭 향상될 것으로 예상했다.
구글이 팜을 공개한 것은 지난해 4월이다. 5400억 개의 매개변수를 가진 이 모델은 28개 자연어 처리 작업에서 오픈AI의 GPT-3 모델을 능가하는 성능을 보였다. 또 수학 및 코딩 벤치마크에서 새로운 기록을 세우기도 했다.
팜 학습에는 퍼블릭 클라우드에 호스팅한 2개의 TPU v4 포드를 사용했다. 각 TPU v4 포드는 AI 워크로드를 실행하는 데 특화된 4096개의 칩을 포함한다. 이들 칩을 결합하면 최대 1.1 엑사플롭스의 성능을 제공한다. 초당 110만조의 계산을 처리할 수 있는 수준이다.
팜 개발과정에서 AI 훈련과정은 ‘패스웨이’라는 내부 개발 소프트웨어 시스템을 사용해 관리했다. 패스웨이는 AI 모델 훈련에 필요한 계산을 여러 칩으로 분산해 작업 흐름을 가속화한다. 팜을 실행할 때 패스웨이는 칩의 처리 성능의 57.8%를 활용해 새로운 업계 기록을 세웠다.
구글은 지난 2월 ‘람다(LaMDA)’를 기반으로한 바드의 초기 버전을 발표했다. 람다는 지난해 1월에 구글에서 처음 소개되었다. 람다는 1370억 개의 매개 변수를 지원한다.
피차이는 "우리는 분명히 더 능력있는 모델을 가지고 있다"라며 “더 능력있는 모델을 출시하기 전에 제대로 관리할 수 있는지 확인될 때까지 출시하지 않는 것이 중요했다”고 설명했다.
박찬 위원 cpark@aitimes.com
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com