메모리 1등 삼성전자 'AI칩 시장 정조준'...AI 탑재 차세대 메모리 기술 확장

삼성전자가 인공지능(AI) 엔진을 탑재한 메모리 반도체 제품군을 대거 공개했다. AI 엔진을 기반한 차세대 메모리 기술로 메모리 반도체 생태계 주도권을 확보해나가겠다는 의지도 밝혔다.

삼성전자는 24일 온라인으로 열린 핫 칩스(Hot chips) 학회에서 PIM(Processing In Memory) 기술을 적용한 'AXDIMM(Acceleration DIMM)'과 'LPDDR5-PIM'을 공개했다. 

PIM은 메모리 내부에 연산 작업에 필요한 AI 프로세서 기능을 더한 지능형 반도체다. 메모리 안에서 자체적인 데이터 연산이 가능하다. 메모리 영역에서 데이터 연산이 가능해 메모리와 그래픽처리장치(GPU)·중앙처리장치(CPU) 간 데이터 이동이 적어 연산처리 속도가 빠르고 전력 소모량도 최대 30배 절약할 수 있다.

[관련기사] [AI 칩러닝] 정부가 1조원 예산 투입해 개발한다는 반도체 'PIM'은 무엇일까?

삼성전자가 이번 발표에서 공개한 AXDIMM은 D램 모듈에 AI 엔진을 탑재한 제품이다. D램 모듈의 동작 단위인 각 랭크에 AI 엔진이 탑재돼 있어 D램 모듈 안에서 자체 연산이 가능하다. CPU와 D램 모듈 간 데이터 이동이 적어 연산처리 속도가 빠르고 전력 소모도 크게 줄일 수 있다. 

기존 D램 모듈에 시스템 변경 없이 AXDIMM을 적용할 수 있는 것도 특징이다. D램 모듈에 있는 버퍼칩에 AI 엔진을 탑재만 하면 된다. 

삼성전자는 AXDIMM의 서버 환경에서의 성능을 글로벌 고객사들과 평가한 결과, 성능은 약 2배 향상됐고, 에너지 소비는 약 40%가 절감됐다고 밝혔다. 

LPDDR5-PIM은 모바일 D램에 PIM 기술을 적용한 제품이다. 이 기술을 활용하면 스마트폰 등 스마트기기에서 자체적으로 AI 연산을 할 수 있다. 데이터를 굳이 서버나 클라우드로 이동할 필요가 없어 통신비가 절약되고 이동 간 에너지 소모와 발생할 수 있는 보안 문제를 줄일 수 있다. 자체적으로 연산이 가능하기 때문에 연산 속도도 빠르다.

회사 측은 LPDDR5-PIM을 테스트한 결과 음성인식·번역·챗봇 등에서 2배 이상의 성능 향상이 이뤄졌고, 60% 이상의 에너지 감소가 확인됐다고 밝혔다.

삼성전자는 이날 학회에서 지난 2월 공개한 HBM-PIM의 실제 시스템 적용 사례와 성능 테스트 결과도 공개했다. 프로그래머블(FPGA) 반도체 개발 업체인 미국 자일링스에서 이미 상용화 중인 AI 가속기 시스템에 HBM-PIM을 탑재한 결과 기존 시스템보다 성능이 약 2.5배 향상됐고, 에너지는 60% 이상 감소됐다고 발표했다. HBM-PIM은 고대역폭 메모리 반도체와 AI 프로세서를 하나로 결합한 기술이다.

회사 측은 향후 PIM 제품군을 다각화하면서 다양한 글로벌 기업과 협력해 차세대 메모리 반도체 생태계 주도권을 확보해나가겠다고 밝혔다. AI와 메모리를 융합한 차세대 메모리 기술로 메모리 1위 자리를 수성해나가겠다는 방침이다.

김남승 삼성전자 메모리사업부 D램 개발실 전무는 "HBM-PIM은 업계 최초의 AI 분야 맞춤형 메모리 솔루션으로 이미 고객사들의 AI 가속기에 탑재돼 평가되고 있어 상업적 성공의 가능성을 보였다"며 "향후 표준화 과정을 거쳐 차세대 슈퍼컴퓨터 및 AI용 HBM3, 온디바이스(On-device) AI용 모바일 메모리, 데이터센터용 D램 모듈로 확장할 예정"이라고 말했다.

AI타임스 김동원 기자 goodtuna@aitimes.com

[관련기사] 파운드리 차세대 공정 'GAA', AI 전력 소모 크게 줄인다...삼성전자·TSMC·인텔 적용 앞둬

[관련기사] AI 시대, 반도체는 미세화에서 패키징으로 한 단계 더 진화한다