속도 향상시킨 'GPT-3.5-터보' 모델 기반 새 API...
기존 GPT-3.5 API보다 10배 저렴
오픈AI가 ‘챗GPT’ API(Application Programming Interface)를 출시했다.
이로써 일반 기업과 개발자들도 오픈AI의 언어 및 음성-텍스트 변환 기능을 활용해 챗GPT를 구동하는 애플리케이션을 개발할 수 있게 됐다.
테크크런치는 1일(현지시간) 오픈AI가 'GPT-3.5'를 최적화해 속도를 향상시킨 'GPT-3.5-터보' 모델을 기반으로 한 새로운 챗GPT API를 출시했다고 보도했다.
새로운 챗GPT API 이용료는 토큰 1000개 또는 단어 750개당 0.002달러로 GPT-3.5 보다 10배 저렴하다. 오픈AI는 GPT-3.5-터보 모델을 지속적으로 개선해나갈 계획이다.
표준 API가 허용하는 것보다 더 많은 토큰을 사용할 것으로 예상되는 개발자를 위해 기업용 개발자 플랫폼 '파운드리(Foundry)'도 출시, GPT-3.5-터보 모델을 실행하기 위한 전용 컴퓨팅 인프라 할당 비용을 지불할 수 있도록 했다.
전용 컴퓨팅 인프라는 최대 16k 컨텍스트 윈도우의 GPT-3.5-터보 모델을 사용할 수 있다. 이를 통해 표준 챗GPT API보다 4배 더 많은 하루 약 4억5000만개의 토큰을 사용할 수 있다.
오픈AI는 인스타카트, 쇼피파이, 퀴즈렛 및 스냅과 같은 기업이 챗GPT API를 사용한다고 밝혔다. 스냅은 기업용 개발자 플랫폼인 파운드리의 첫번째 고객이기도 하다.
한편 오픈AI는 지난해 9월 오픈소스 음성-텍스트 모델인 위스퍼를 최적화해 호스팅 버전인 위스퍼 API를 출시한 바 있다. 분당 0.006달러의 비용으로 여러 언어의 오디오를 전사(transcription)하거나 영어로의 번역하는 데 사용할 수 있는 제품이다.
기술적으로 위스퍼 모델은 오픈 소스이기 때문에 비용을 지불하지 않고 자체 하드웨어에서 실행할 수 있다. 하지만 빠른 처리를 원하거나 전화와 같은 저전력 장치에서 전사를 수행해야 하는 경우 오픈AI API를 사용하는 것이 효과적이다.
박찬 위원 cpark@aitimes.com
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com