미국 인공지능(AI) 스타트업 셀레스티얼AI가 칩 내부와 칩 간 데이터 이동에 빛을 이용하는 포토닉 패브릭(Photonic Fabric) 기술을 토대로 1억달러(약 1300억원) 투자유치에 성공했다고 테크크런치가 28일(현지시간) 보도했다.
이번 투자에는 IAG 캐피털 파트너스, 코흐 디스럽티브 테크놀로지스, 소라 이노베이션을 비롯해 스마트 글로벌 홀딩스, 포르쉐 오토모빌 홀딩 SE, 엔진펀드, imec.xpand, M벤처스, 타이크 파트너스 등이 참여했다. 국내에서는 삼성 카탈리스트가 동참했다.
셀레스티얼AI는 전기 대신 빛을 활용해 데이터를 주고 받고 연산할 수 있도록 하는 광 인터커넥트 기술 전문 스타트업이다.
셀레스티얼 AI에 따르면 챗GPT와 같은 대형언어모델(LLM) 구동은 컴퓨팅보다도 메모리의 영향을 받는다. 이에 챗GPT 출시 이후 AI 사용량이 급증하면서 필요한 메모리 용량과 대역폭이 기하급수적으로 증가했다.
문제는 메모리가 항상 효율적으로 사용되지 않는다는 것이다. 컴퓨터 프로세서의 빠른 발전으로 연산속도는 빨라졌지만 메모리 속도가 이를 따라가지 못하면서 전체 컴퓨팅 성능이 저하되는 현상이 벌어진 것이다.
또한 이러한 현상으로 인해 메모리가 사용되지 않고 남는 문제가 발생하면서 메모리 사용 효율성이 크게 떨어지게 된다.
데이터 센터에서 메모리는 가장 비싼 자원 중 하나다. 데이터센터 입장에서는 노는 메모리의 양을 줄여 효율적으로 사용할 수 있다면 수익성을 향상시킬 수 있다. 마이크로소프트는 이를 줄이기만 해도 데이터센터 비용 4~5%를 절감할 수 있을 것으로 추정했다.
셀레스티얼 AI는 이와 같은 메모리 문제를 해결하기 위해 광 인터커넥트 기술인 '포토닉 패브릭(Photonic Fabric)'을 개발했다. 빛을 기반으로 하는 만큼 기본 전기적 상호연결보다 속도가 빠르고 에너지 효율도 높다.
셀레스티얼 AI는 해당 기술을 통해 컴퓨팅과 메모리를 분리해 컴퓨팅성능을 획기적으로 끌어올릴 수 있을 것으로 기대하고 있다.
셀레스티얼 AI는 자사의 포토닉 패브릭 기술이 제공하는 대역폭이 광학엔진과 스위치 칩을 공동 패키징하는 기존 기술보다 25배 넓고 지연시간과 전력 소비도 10배 이상 낮다고 설명했다.
또한 셀레스티얼 AI는 자체 아키텍처를 기반으로한 ‘오리온(Orion)’이라는 AI 가속칩을 개발, 판매하고 있다. 하지만 대규모 상용화를 위해서는 아직 기술적으로 해결해야 할 문제들이 남아 있는 상황이다.
셀레스티얼 AI는 이번에 확보한 자금을 엔지니어링, 영업, 기술 마케팅 부서를 확장하고 자체 포토닉스 플랫폼 생산을 확대하는데도 투입할 계획이다.
데이비드 라조브스키 셀레스티얼AI CEO는 "LLM으로 인한 생성 AI 워크로드의 증가와 현재 데이터 센터 아키텍처에 대한 압박을 감안할 때 일반 컴퓨팅 데이터 센터 인프라에서 가속 컴퓨팅으로의 전환을 지원하기 위한 광 인터커넥트에 대한 수요가 급격히 증가하고 있다"며 "이런 차세대 데이터센터 인프라는 광 인터커넥트를 통해 메모리와 컴퓨팅 리소스를 분리해 AI워크로드 효율성을 크게 향상시킬 것"이라고 말했다.
박찬 기자 cpark@aitimes.com
