[편집자 주] 하루가 멀다하고 새로운 기술들이 쏟아져 나옵니다. AI는 모든 산업 분야에 영향을 미칠 핵심 기술이 되었습니다. [찬이의 IT교실]은 AI를 비롯해 어렵고 생소한 IT 기술과 산업을 알기 쉽고 재미있게 풀어 드리겠습니다.
게임과 같이 복잡한 그래픽을 처리하기 위해 개발된 GPU(Graphical Processing Unit)는 여러 명령어를 동시에 처리할 수 있는 병렬 처리 구조를 가진 덕분에 AI에서 요구하는 방대한 데이터 연산처리능력을 보이면서 처음으로 AI 칩의 가능성을 열었습니다. 그렇다면 이 GPU를 자율주행차에도 사용할 수 있을까요?
우선 자율자동차에 들어가는 부품은 공간 제약이 있기 때문에 크기가 작아야하고 배터리로 구동되기 때문에 낮은 전력이 요구됩니다. 즉, 자율주행차량용 AI 칩은 작은 크기, 적은 소모전력으로 필요한 성능을 발휘할 수 있어야 하죠.
또한 자율주행차는 교통 신호, 다른 차량, 보행자에 신속하고 적절하게 반응하고 도로의 상황에 실시간으로 대응할 수 있어야 하기 때문에 데이터를 매우 빠르게 처리할 수 있는 AI 칩이 필요합니다. 자율주행차량은 차량, 교통 신호, 교통 표지판, 보행자, 도로 등 주변 환경 감지를 위해 많은 센서를 장착하고 있어요. AI 칩은 이 센서 데이터를 자율주행차량 내에서 즉시 처리하고 밀리초 단위 이내에 의사결정을 내릴 수 있어야 안전 운행이 가능합니다.
따라서 자율주행차량용 AI 칩은 장시간이 요구되는 학습(training) 기능보다는 학습된 내용을 바탕으로 입력 데이터에 알맞는 출력을 즉각적으로 만드는 추론(inference) 기능이 적합합니다. 또한 추론 기능은 많은 계산이 필요한 학습 기능에 비해 소모되는 에너지도 적습니다. 즉 낮은 전력에서도 필요한 판단을 수행할 수 있는 추론용 AI 칩은 학습용 AI 칩과는 다른 설계가 필요합니다.
추론용 AI 칩의 대세 플랫폼은 시스템 온 칩(SoC, System on Chip)입니다. SoC는 컴퓨터 시스템의 구성 요소를 통합하는 집적회로로, 설계 목적에 따라 프로세서, 컨트롤러, 타이밍 장치, 메모리, 트랜지스터, 주변 장치 등이 하나의 칩에 모두 포함될 수 있어요. 하드웨어뿐만 아니라 소프트웨어도 탑재할 수 있어서 프로그램이 가능(programmable)하답니다.
SoC는 소비 전력과 필요 공간이 개별 시스템을 설치할 때보다 대폭 절감되므로, 자율주행차량용 AI 칩에 적합합니다. 같은 맥락으로 특정 목적에 맞춰 학습된 내용에 따라 출력값을 빠르게 계산하는 추론 기능 구현에 적합한 FPGA(Field-Programmable Gate Arrays)도 사용 가능합니다. FPGA는 회로 재구성 프로그래밍을 통해 용도에 맞게 최적화해 변경이 가능한 반도체로서 활용 목적에 따라 높은 유연성이 특징입니다.
사람 뇌의 신경구조(뉴런-시냅스 구조)를 모방한 신경망 회로와 신호를 아날로그 전자 회로로 구성해 처리하는 뉴로모픽(neuromorphic) AI 칩도 자율주행차에 사용될 수 있습니다. 뉴로모픽 AI 칩은 아날로그 데이터 표현 방식에 따라 한 개의 신호는 한 개의 노드에 표현됩니다. 또한 연결 상태는 소프트웨어로 결정되지 않고 하드웨어로 연결되어 있으며 가중치는 아날로그 형태의 고정된 상태로 저장됩니다. 이러한 구조는 매우 적은 에너지로 한 번에 많은 정보를 처리할 수 있다는 장점이 있습니다.
반면 뉴로모픽 AI 칩은 구조가 고정돼 있어 ‘프로그램화할 수 있는 가능성(Programmability)’은 낮지만, 규모가 작은 응용 분야에서는 장점이 큽니다. 실제로 뉴로모픽 AI 칩은 높은 에너지 효율을 발휘해, 자율주행차에서 사용하는 센서의 AI 신호 처리나 대량의 영상 입력 데이터를 고정된 가중치의 인공신경망 모델로 처리해야 하는 영상 분류와 같은 응용 분야에 유용합니다.
이제 자율주행차에 어떤 종류의 AI 칩을 사용할 수 있는지 이해가 되었나요? AI 칩은 응용 분야에 따라 자율주행차를 비롯해 스마트 스피커, 로봇, 드론, 보안 카메라, 웨어러블 기기 등 네트워크 말단인 기기 또는 단말에서 데이터를 처리하는 에지 컴퓨팅(Edge Computing)용 칩과 중앙 서버에서 데이터를 처리하는 데이터 센터나 클라우드 서비스용 칩으로 구분할 수 있습니다.
그렇다면 에지 컴퓨팅에는 자율주행차에 사용할 수 있는 AI 칩들이 사용될 수 있겠죠. 그럼 데이터 센터나 클라우드 서비스를 위해서 사용될 수 있는 AI 칩에는 어떤 종류가 있을까요? 데이터 센터나 클라우드 서비스는 데이터를 자신의 기기나 단말이 아닌 데이터 센터나 클라우드에 연결된 서버 또는 다른 컴퓨터로 보내서 처리를 합니다.
데이터 센터나 클라우드 서비스용 AI 칩들은 상대적으로 소모 전력, 발열, 메모리 등에 구애 받지 않고 성능에 초점을 맞춰서 설계가 가능합니다. 또한 기능적인 면에서도 AI 칩은 장시간에 걸쳐 많은 연산처리 능력이 요구되는 학습을 주로 수행합니다. 이 같은 경우에는 수많은 데이터를 단시간에 처리하고, 학습하고 적용할 수 있는 GPU와 같은 특별한 프로세서가 선호됩니다.
하지만 GPU는 그래픽 처리를 위해서 개발된 것이기 때문에 AI를 수행하는데 최적이라고 볼 수는 없어요. 그래서 특별한 방식으로 AI를 가속화할 수 있는 주문형 반도체 형태의 AI 칩이 등장하고 있습니다. ASIC(Application Specific Integrated Circuits)나 ASSP(Application Specific Standard Product)는 특정 용도에 맞도록 제작된 주문형 반도체로 속도가 빠르고 에너지 효율이 높아 각광받고 있는데요.
이에 인텔과 같은 기존의 반도체 업체 이외에 구글, 테슬라, 애플과 같은 글로벌 ICT 기업들이 AI 알고리즘이 내장된 ASIC 칩을 자체적으로 개발하는 추세입니다. 또한 한정된 응용 분야에 특화되지 않고 다양한 용도로 사용할 수 있는 AI 가속기를 개발하는 세레브라스(Cerebras Systems), 그래프코어(Graphcore), 그로크(Groq) 등 여러 팹리스(Fab-less) 스타트업들도 등장하고 있지요.
에지에 있는 기기나 단말이 단순히 주변의 데이터를 수집하고 전달하는 수준을 넘어서 스스로 데이터를 판단할 줄 안다면 클라우드에서의 데이터 처리가 더 간소해질 것입니다. 데이터 수집과 전달 같은 단순한 수준 이상의 자율적이고 지능적인 판단력을 지닌 AI 칩이 에지에서의 프로세싱을 더 의미 있게 만들게 되는 것이죠.
예를 들어 보안 카메라의 경우, 에지 AI가 없으면 단순히 가공되지 않은 비디오 신호를 계속 클라우드 서버로 스트리밍 합니다. 이로 인해 많은 양의 비디오 영상이 클라우드로 전송되고 이는 클라우드 서버에 큰 부하를 초래하게 되겠죠. 에지 AI를 통해 기계 학습이 가능한 스마트 카메라는 포착된 이미지를 로컬에서 처리해 여러 물체와 사람을 식별하고 추적할 수 있으며 에지에서 직접 의심스러운 활동을 감지할 수 있게 됩니다. 카메라 영상은 특별한 사건을 제외하고 클라우드 서버로 이동할 필요가 없어 대역폭 사용을 줄일 수도 있고요. 이로 인해 서버가 더 많은 수의 카메라와 쉽게 통신할 수 있고 원격 처리와 메모리 요구 사항을 줄일 수 있게 되겠죠.
AI타임스 박찬 위원 cpark@aitimes.com
