"AI 채택과 확장의 엄청난 속도를 고려하면 기존 75년이 걸렸던 과정이 AI의 경우 몇달 만에 가능할 수 있다. 이에 따라 효율적이고 분산적이며 확장 가능한 엣지 AI의 전환은 필수적이다."
코리 힘멜 크라우드보틱스 혁신 및 연구 담당 부사장 겸 미래학자.
1946년 등장한 세계 최초의 컴퓨터 '애니악(ENIAC)'은 1만7468개의 진공관과 6000개의 수동 스위치를 포함한 27톤의 거대한 기계였으나, 현재 스마트 냉장고에 흔하게 사용되는 Arm의 'Cortex-M4' 칩은 그보다 1만배나 성능이 뛰어나다고 지적했다.
이처럼 컴퓨터 기술이 성숙해짐에 따라 장치는 더 빠르고 비용 효과적으로 변하는 것이 당연하며, 특히 AI의 무서운 발전 속도를 감안하면 에니악처럼 75년이 아니라 몇개월 만에도 대형언어모델(LLM)의 소형화가 가능하다고 설명했다.
이에 따라 최근의 대표적인 추세로 소형언어모델(sLM)과 엣지 AI, 전문가 믹스(MoE) 등을 대세로 꼽았다. 특히 엣지 AI는 비용 효율과 확장성 등으로 인해 AI의 미래가 될 것이라고 강조했다.
임대준 기자 ydj@aitimes.com
관련기사
