퍼플렉시티와 세레브라스가 기존 검색 엔진의 재배력에 도전하기 위해 협력에 나선다. 두 회사는 전례없는 속도로 거의 즉각적인 AI 기반 검색 결과를 제공하겠다는 파트너십을 발표했다.
퍼플렉시티는 11일(현지시간) 기업용 API 서비스 ‘소나(Sonar)’를 세레브라스의 전문 AI 칩을 통해 제공한다고 발표했다.
이를 통해 소나 서비스는 세레브라스의 '웨이퍼 스케일 엔진(WSE)' 프로세서를 활용해 초당 1200 토큰의 속도로 실행된다.
이는 현존하는 가장 빠른 AI 검색 시스템으로 평가된다. 또, 인터넷 연결을 통해 신뢰할 수 있는 출처의 정보를 실시간으로 제공하는 것이 특징이다.
퍼플렉시티는 소나 API를 통해 AI 검색 엔진을 다양한 플랫폼에서 활용할 수 있도록 했다. 예를 들어, 줌(Zoom)은 소나를 활용해 화상 회의 플랫폼의 AI 어시스턴트를 업그레이드했다. 이를 통해 줌 AI 챗봇은 사용자들이 화상 회의 중에도 웹 검색 결과를 실시간으로 인용해 답변을 제공할 수 있게 됐다.
퍼플렉시티의 내부 테스트에 따르면, 소나는 사용자 만족도 측정치에서 'GPT-4o 미니'와 '클로드 3.5 하이쿠'를 상당한 차이로 능가하며, '클로드 3.5 소네트'와 같이 더 비싼 모델과 맞먹거나 그 이상의 성능을 제공한다. 또, 소나는 85.1의 사실성 점수를 기록한 반면, 'GPT-4o'는 83.9점, 클로드 3.5 소네트는 75.8점을 받았다.
퍼플렉시티는 소나를 통해 새로운 수익원을 창출할 것으로 기대하고 있다. 가장 빠른 AI 검색 시스템을 제공해 B2B 시장을 본격적으로 공략할 계획이다.
한편, 세레브라스는 최근 WSE 프로세서를 통해 '딥시크-R1' 모델을 호스팅한다고 밝혔다. 이를 통해 R1이 엔비디아 GPU보다 최대 57배 빠른 추론 속도를 제공한다.
또 지난해 11월에는 '라마 3.1 405B'를 초당 969 토큰 속도로 실행, GPU 기반 AI 서비스보다 무려 75배 빠른 세계 신기록을 세웠다고 발표한 바 있다.
박찬 기자 cpark@aitimes.com
