광(光) 프로세서는 어떻게 AI 기술을 혁신할까?

얼마 전 미국의 반도체기업 라이트매터가 빛을 이용해 정보를 전달하는 '광(光) 프로세서'를 개발했다고 밝힌 바 있다.

빛을 이용해 정보를 전달하면 더 많은 정보를 더 빠르게 전달한다. 또한 기존 트랜지터의 단점 중 하나인 발열도 해결된다.

라이트매터는 어떻게 광 프로세서를 생산할 수 있었을까? 정답은 3D 적층 기술에 있다.

3D 적층 기술은 첨단 메모리 반도체에서 주로 사용하는 기술이다. 전 세계 1, 2위 메모리 반도체 회사인 삼성전자와 SK하이닉스는 적층 기술을 통해 고용량·고성능의 메모리를 생산하고 있다.

이들은 비슷한 성질의 반도체를 96단, 128단, 256단 등 여러층으로 쌓아올리면서 집적도를 높이는 방식을 사용한다.

라이트매터의기술은 이들과는 사뭇 다르다. 광 프로세서는 서로 다른 두 개의 구조가 합쳐졌다. 단순한 2층 구조다.

▲위에는 메모리와 제어를 맡는 12나노(nm) 공정의 ASIC(주문형반도체) ▲아래는 컴퓨팅 엔진 기능을 하는 90나노 공정의 실리콘 광(photonic) 디바이스가 배치된다.

24일 EE타임스는 실리콘 칩을 통해 빛을 전파하는 광전자 기술의 발전으로 이런 복잡한 온칩(complex on-chip) 구조가 가능해졌다며, 트랜지스터 기반의 기존 반도체의 한계를 극복할 수 있다고 전했다.

'동일 면적에 직접된 트랜지스터는 전력 소모량이 같다'는 데너드 스케일링 법칙에 따라, 트랜지스터의 단위 면적당 전력 소모가 증가하며 에너지 효율이 높은 다른 기술이 필요하게 됐기 때문이다.

그 해결책 중 하나가 광전자, 광 프로세서, 광 컴퓨터 등으로 불리는 '빛을 이용한' 컴퓨팅 기술인 것이다.

또한 광학 컴퓨팅은 다중 처리(multiplex) 능력이 특징이다. 하나의 프로세서로 여러개의 정보를 처리할 수 있다는 것이다.

독립된 여러 데이터의 흐름은 광통신에 사용되는 기법과 유사하게 다른 빛의 파장으로 인코딩돼 동시에 컴퓨팅 엔진에 공급될 수 있다. 이는 광학 프로세서가 동시에 여러 AI 추론을 수행할 수 있다는 것을 의미한다.

닉 해리스 라이트매터 CEO는 EE타임스와의 인터뷰에서 "우리는 완전히 다른 유형의 물리학을 사용함으로써 에너지 스케일링 문제를 피했다. 우리는 빛을 사용하고 있다"며 "광학 컴퓨팅은 더 빠르고 에너지 소모가 낮다"고 말했다.

그러면 기존 컴퓨터 대비 얼마나 빠르고, 얼마나 낮은 에너지일까?

이같은 의문에 해리스는 기존의 AI 데이터센터를 사용하며, 에너지 소비를 20배 줄이고 물리적 공간을 5배 줄일 수 있다고 답했다. 심지어 이는 1세대 기술이며 장기 로드맵은 더 높은 효율을 보인다고 강조했다.

또한 해리스는 현재 공개된 테스트 칩은 단순한 '데모'에서 벤치마크 성능을 제대로 구현하지 못하며, 실제 사용시에는 최근 공개된 엔비디아의 최신 암페어 A100을 능가하는 성능을 가졌다고 주장했다.

그는 라이트매터의 광 프로세서가 A100에 비해 에너지 효율은 20배, BERT나 Resnet-50 등 추론 워크로드 처리량은 최소 5배라고 부연했다.

EE타임스는 "라이트매터의 의도는 이 테스트 칩을 과시함으로써 프로세서 설계에 대한 접근법이 견고함을 증명하려는 것"이라며 "AI 추론 작업 워크로드에 맞춘 작동하는 광학 컴퓨팅(실리콘 광전자) 칩을 가장 먼저 내놓은 회사 중 하나"라고 설명했다.

라이트매터의 상용 제품은 내년 가을에서나 출시될 예정이다. 최근 핫칩2020 행사에서 발표한 광 프로세서의 후속 제품을 기반으로 한 칩이 탑재된 PCIe 카드로 나올 예정이다. 데이터센터용 AI 추론 워크로드에 맞게 설계됐다.

해리스는 자사의 제품에 대해 '큰 도전'이라고 평가했다.

그는 "1960년대 이후 컴퓨팅 역사상 컴퓨팅을 위해 전자 트랜지스터를 대체한 기술은 단 한 번도 없었다. 그런 일은 한 번도 없었다. 사람들은 노력했지만 잘 되지 않았다. 이런 일이 일어나는 것을 처음 보게 될 것"이라고 말했다.

양대규 기자 AI 반도체에 관심이 많습니다.CPU, GPU, FPGA, NPU 등 최신 소식을 정확하게 전달 드리겠습니다. yangdae@aitimes.com

상단영역