기업용 대형언어모델(LLM)로 유명한 캐나다 스타트업 코히어가 최신 모델 '커맨드-R(Command-R)'을 출시했다. 멀티모달 등 화려한 기능은 없지만, 성능을 향상하고 가격을 낮춰 비즈니스에 실질적인 도움이 된다고 강조했다. 또 한국어를 포함, 10개 국어를 지원한다.
벤처비트는 12일(현지시간) 코히어가 RAG(검색 증강 생성)와 최대 12만8000토큰의 긴 컨텍스트 창, 저렴한 가격을 제공하는 코맨드-R 출시를 발표했다고 보도했다.
코히어는 이번 모델의 특징으로 ▲RAG 및 도구 사용에 대한 강력한 정확성 ▲낮은 대기 시간 및 높은 처리량 ▲128k 컨텍스트 및 더 낮은 가격 ▲10개 주요 언어에 대한 강력한 기능 등을 들었다.
컨텍스트 창의 경우 오픈AI 'GPT-4 터보'와 동일한 수준이며, 10개 언어 중에는 한국어도 포함됐다. 또 기업 전용 모델인 만큼, 강력한 개인 정보보호와 보안 기능도 강조했다.
가까운 시일 내 API를 제공하고, AWS 등 주요 클라우드 업체를 통해서도 서비스할 예정이다.
마틴 콘 코히어 사장 겸 COO은 "커맨드-R은 글로벌 비즈니스 언어 전반에 걸쳐 대규모 생산 워크로드를 처리하도록 설계됐다"라며 "정확성과 효율성을 결합하기 위해 RAG를 최적화했다"라고 말했다.
특히 RAG의 경우 ▲임베드(Embed) 모델을 통해 수백만~수십억개의 문서를 검색할 때 상황별, 의미론적 이해를 향상해 검색 정확도를 크게 향상했으며 ▲리랭크(Rerank) 모델로 검색된 정보의 가치를 향상해 관련성이나 개인화 등 결과를 최적화했다고 강조했다. 벤치마크 결과도 '라마 2'나 '믹스트랄' 'GPT-3.5 터보'보다 뛰어나다.
에이단 고메스 코히어 CEO도 X(트위터)를 통해 새 모델의 특징은 "더 스마트하고, 더 긴 컨텍스트를 처리하며, 더 저렴하다"라고 밝혔다.
한편 2019년 구글 출신 연구원을 중심으로 설립된 코히어는 오픈AI 등과는 달리, 처음부터 기업용 LLM에 초점을 맞췄다. 그 결과 이름은 덜 알려졌지만, 일반 사용자를 대상으로 범용 서비스를 펼치는 경쟁사에 비해 효율적인 서비스를 구축할 수 있었다고 전했다.
콘 COO는 "기업과 신뢰를 구축하고, AI 개념 증명 단계를 넘어 실제 생산으로 나아가는 것이 중요하다"라고 강조했다. 또 “화려한 모델들이 실제 기업의 생산 현장에는 실용적이지 않은 경우가 많다"라며 "우리는 과중한 작업량을 효율적으로 처리하면서 실제 결과를 제공할 수 있다"라고 말했다.
이 회사는 지금까지 누적 5억달러 이상을 모금했으며, 지난해 6월 펀딩 라운드에서는 기업 가치 22억달러(약 2조9000억원)를 달성했다. 현재는 5억~10억달러 규모의 자금 조달을 추진 중이다.
또 영업 확대를 위해 최근 뉴욕에 이어 샌프란시스코에도 사무실을 열고, 직원 수를 250명 이상으로 늘렸다. 고객사 및 파트너사로는 오라클, 노션, 스케일AI, 액센추어, 맥킨지 등이 있다.
임대준 기자 ydj@aitimes.com
