카카오엔터프라이즈(대표 이경진)는 카카오 강남오피스에서 ‘엔비디아 X 카카오클라우드 원데이 인공지능(AI) 개발자 부트캠프’를 진행했다고 12일 밝혔다.
부트캠프 행사는 카카오클라우드 엔비디아 GPU 인스턴스를 활용한 ▲AI와 클라우드 기술세미나 ▲카카오클라우드와 엔비디아 AI를 활용한 AI인퍼런스 부트캠프 등등으로 나눠 진행했다.
AI와 클라우드 기술 세미나에서는 엔비디아 AI 솔루션 소개 및 카카오클라우드 기술과 서비스를 주제로 온라인 세션을 진행했다. 200명 정원에 400명이 넘는 신청이 몰렸다고 전했다.
오프라인 AI인퍼런스 부트캠프에서는 카카오클라우드 기반 엔비디아 GPU를 활용해 대형언어모델(LLM) '라마3'의 인퍼런스 최적화 및 배포 관련 최신 기술 실습 시간을 가졌다. 30명으로 제한, 다양한 산업군의 개발자들이 참석했다.
특히 엔비디아 솔루션 아키텍트가 직접 카카오클라우드 기반 환경부터 인퍼런스 실습까지 담당했다. 구체적으로는 ▲카카오클라우드 실습 환경 셋업 ▲텐RT-LLM 및 트리톤 인퍼런스 서버 소개 ▲텐서RT-LLM 실습 ▲최적화된 엔진 배포 실습 ▲NIM 소개(강의) ▲NIM 실습(랩) 등을 진행했다.
카카오클라우드와 엔비디아는 생성 AI에 필요한 고성능 클라우드 컴퓨팅 기술 및 시장 성장을 위해 협력을 이어 나갈 예정이다.
이지혜 카카오엔터프라이즈 CGO는 "엔비디아와 공동 개최한 부트캠프에 참여자들이 높은 관심과 만족도를 보여 준비한 보람을 느낀다”라며 “고성능 클라우드 컴퓨팅 시장에서 차별화된 기술력으로 성장해 갈 수 있도록 양사의 협력 관계를 공고히 할 것”이라고 말했다.
장세민 기자 semim99@aitimes.com
