SK텔레콤이 1분기 중 국내에서 처음으로 엔비디아의 첨단 GPU ‘H200’를 도입한다.
SK텔레콤(대표 유영상)은 최근 가산 인공지능(AI) 데이터센터(AIDC)를 오픈, 시범 운영을 마친 뒤 AI 클라우드 서비스 ‘SKT 서비스형 GPU(GPUaaS)’를 출시했다고 13일 밝혔다.
SKT GPUaaS는 미국 기업 람다와 지난 1년간 협력해 온 결과다. 구독형 AI 클라우드 서비스로, 이를 위해 가산 AIDC에 람다 한국 리전을 유치했다. 아시아태평양 지역에 처음으로 생기는 람다의 리전이라는 설명이다.
특히 람다와의 협력을 통해 GPU의 안정적 확보 기반을 마련했다. 이번에 출시하는 GPUaaS는 엔비디아 GPU H100을 기반으로 한다. H100은 현재 국내에 도입된 GPU 중 가장 성능이 좋은 것으로 알려져 있다. 구독을 원하는 기업은 AI 서비스 규모나 목적에 따라 GPU 수량과 기간을 선택, 단독 서버-방화벽-전용회선 등 맞춤형 패키지를 구성할 수 있다.
퍼블릭 클라우드와 상호 연동이 가능하다. 기업이 기존에 사용하던 클라우드를 그대로 활용하며 SKT의 GPU 컴퓨팅 파워를 이용할 수 있는 것이다. 가격은 약정 기간, GPU 개수, 선불형의 과금 형태에 따라 탄력적으로 책정한다고 전했다. 예를 들어 24개월간 32개의 GPU를 원할 경우 이에 맞는 가격을 설정할 수 있는 방식이다. 1개월, 2개월 등 단기 서비스 이용도 가능하다.
정식 출시 전부터 100개가 넘는 기업들이 구체적인 내용을 문의하는 등 서비스에 대한 업계 관심이 높은 상황이라고 밝혔다. 대기업, 중소기업뿐만 아니라 AI를 연구하는 각종 대학과 연구 기관에서도 큰 관심을 보이고 있다는 설명이다. 실제 기업들은 ▲고성능 GPU 활용 따른 AI 모델 학습 기간 단축 ▲GPU를 합리적인 가격에 짧은 기간도 이용 가능 ▲서버 구매와 데이터센터 운영 고민 없이 GPU 자원 바로 사용 등을 장점으로 꼽았다.
람다와의 협력 관계를 바탕으로, 1분기 중에는 최신 GPU H200도 도입할 예정이다. 국내 최초로 H200을 도입, 국내 기업들이 보다 빠르게 AI 기술 및 서비스를 개발할 수 있는 환경을 조성하고 GPUaaS 고객 확대에도 나설 계획이다.
한편, SKT는 지난해 11월 ‘SK AI 서밋 2024’에서 AI 인프라 슈퍼 하이웨이 전략을 발표한 바 있다. AI데이터센터, GPUaaS, 엣지AI 등 세가지 축을 중심으로 전국의 AI 인프라를 구축하는 전략이다. 이번에 오픈한 가산 AIDC의 경우 랙당 전력밀도가 국내 최고 수준인 44킬로와트(kW)로, 국내 데이터센터 랙 당 평균 전력밀도인 4.8kW의 약 9배에 달한다고 강조했다.
GPUaaS 출시를 기념해 특별 프로모션도 진행한다. 2월 말까지 약 2개월 간 구독 가격의 20% 할인해준다. GPU 교체 보상 프로그램, 클라우드 비용 최적화 컨설팅 등의 이벤트도 시행할 예정이다. 자세한 내용은 SKT 엔터프라이즈 홈페이지에서 확인할 수 있다.
김명국 SKT GPUaaS사업본부장은 "이번 GPUaaS 출시는 AI 데이터센터 사업이 고객에게 다가가는 첫번째 사례로, AI 인프라 핵심 사업자로 자리매김하는데 의미가 크다”라며 “국가 AI 경쟁력을 높이는 GPU 팜으로 구축하겠다"라고 말했다.
장세민 기자 semim99@aitimes.com
