구글, '버텍스 AI'에 기업용 서비스 대거 추가...제미나이 플래시2·젬마2·이매진3 등도 출시

구글이 인공지능(AI) 플랫폼인 버텍스 AI에 새로운 모델을 추가하는 등 기업을 겨냥한 신제품과 서비스를 대거 공개했다. 

벤처비트는 27일(현지시간) 구글 클라우드가 AI 플랫폼인 '버텍스 AI'에 앤트로픽의 ‘클로드 3.5 소네트’ 모델를 통합했으며, 올해 7월에 ‘미스트랄 스몰’ ‘미스트랄 라지’ ‘미스트랄 코데스트랄’ 모델에 대한 지원을 추가할 것이라고 보도했다. 

새로 추가된 모델들은 ‘버텍스 AI 모델 가든’을 통해 액세스할 수 있다. 기업들은 버텍스 AI에서 새로운 모델들을 사용, 자체 데이터를 기반으로 맞춤형 모델을 구축할 수 있다.

구글 클라우드는 저지연 모델인  ‘제미나이 1.5 플래시’를 정식 출시했다. 이 모델은 가격 경쟁력과 100만 토큰 컨텍스트 창의 고속 처리가 특징이다.

제미나이 1.5 플래시에 1만자를 입력하면 'GPT-3.5 터보'보다 ​​40% 더 빠르며고 입력 가격은 4배 낮다. 또 3만2000자를 넘는 입력에 대해서는 컨텍스트 캐싱이 활성화된다. 컨텍스트 캐싱을 사용하면 모델이 요청을 받을 때마다 모든 것을 처음부터 다시 계산하지 않고도 이미 가진 정보를 저장하고 재사용할 수 있다. 따라서 긴 대화나 문서에 유용하며, 컴퓨팅 비용을 낮출 수 있다.

'제미나이 1.5 프로' 모델도 이제 기본 200만 토큰 컨텍스트 창 용량으로 출시된다. 이 컨텍스트 크기에서는 2시간 분량의 비디오, 22시간 분량의 오디오, 6만줄 이상의 코드 또는 150만 단어를 처리할 수 있다. 컨텍스트 창이 클수록 효과적인 컨텍스트 캐싱을 사용, 입력 비용을 무려 75%까지 줄일 수 있다. 

구글의 차세대 텍스트-이미지 모델인 ‘이매진 3’도 버텍스 AI 플랫폼에 출시된다. 이전 제품인 이매진 2에 비해 더 빠른 이미지 생성, 더 나은 프롬프트 이해, 사진처럼 사실적인 인물 생성 및 향상된 타이포그래피 기능을 제공한다. 다국어 지원, 디지털 워터마킹 지원, 다중 화면비 지원 등도 함께 제공된다. 한편 지난 2월 인종 편향 문제로 패쇄했던 '제미나이'의 이미지 생성 기능은 이번에도 재개되지 않았다.

다음달에는 90억개와 270억 매개변수의 오픈 소스 소형언어모델(sLM) ‘젬마 2 9B’와 ‘젬마 2 27B’를 버텍스 AI에 출시한다.

젬마 2는 엔비디아의 최신 GPU 또는 버텍스 AI의 단일 TPU 호스트에서 실행되도록 설계됐다. 온디바이스 AI용으로, 스마트폰과 IoT 기기, 노트북, 데스크톱 컴퓨터와 같은 엣지 기기에서 직접 실행할 수 있다.

지난 2월에는 20억 매개변수의 '젬마 2B'와 70억 매개변수의 '젬마 7B'를 버텍스 AI에 출시했었다. 또 26억 매개변수의 ‘젬마 2 2.6B’ 모델도 곧 출시할 예정이라고 밝혔다.

또 지난 5월 버텍스 AI에서 구글 검색을 통해 인터넷에서 실시간 정보를 검색하는 '그라운딩(Grounding)' 기능을 출시한 데 이어, 타사의 전문 데이터셋을 추가해 AI 응답 결과를 개선할 수 있는 그라운딩 옵션도 추가한다고 발표했다.

이를 위해 금융 데이터 제공업체인 무디스, 법률 다국적 정보 회사 톰슨 로이터, 상업용 검색 엔진 줌인포 등과 정보 제공업체와 협력하고 있다고 밝혔다.

더불어 엄격한 통제와 사실적 응답이 필요한 기관들을 위해 고품질의 그라운딩 옵션도 추가 제공한다. 프리뷰로 제공되는 이 옵션은 기업이 제공한 내부 콘텐츠만 사용하도록 미세조정된 제미나이 1.5 플래시 모델에 의해 구동되며, 모델은 일반 지식을 무시하고 해당 데이터에만 기반하여 응답을 생성한다.

이는 여러 문서를 동시에 요약하거나 금융 보고서에서 중요한 데이터를 추출하는 등 금융 서비스, 헬스케어 및 보험과 같은 민감한 사용 사례에 유용하다는 설명이다.

박찬 기자 cpark@aitimes.com