20년이 된 X박스에서 인공지능(AI) 모델을 구동, 글을 생성하는 모습이 공개됐다. 이는 얼마 전 26년 전 발매된 펜티엄 2 PC를 이용해 대형언어모델(LLM)을 구동한 스타트업 EXO을 따라 한 것이다.
안드레이 데이비드 서머파이낸스 최고 기술책임자(CT)는 11일(현지시간) X(트위터)를 통해 20005년 마이크로소프트(MS)가 출시한 콘솔 게임기 X박스를 통해 '라마'를 구동하는 데 성공했다고 밝혔다.
이는 지난달 29일 스마트업 EXO가 인텔 펜티엄 2 CPU와 128MB RAM을 장착한 26년 된 PC에서 윈도우 98로 라마를 작동하는 데 성공했다고 발표한 데 따른 것이다. 그는 "EXO로부터 영감을 받았다"라고 밝혔다.
EXO의 방식을 그대로 사용했다. 즉, 오픈AI 공동 창립자인 안드레이 카르파시가 C언어로 제작한 'llama2.c'를 활용했다.
다만, EXO와는 달리 X박스의 '파워PC' 아키텍처와 고유한 메모리 관리 기능에 맞춰 코드를 최적화했다고 밝혔다.
우선 데이터 저장 방식이 파워PC는 크고 중요한 데이터부터 먼저 저장하는 '빅 엔디언(big endian)' 방식이고 펜티엄 2 프로세서는 반대인 '리틀 엔디언' 방식이라, 메모리 정렬을 손봐야 했다.
또 X박스 출시 당시에는 흔치 않았던 통합 메모리 사용을 위해 추가 조정이 필요했다고 설명했다. X박스는 펜티엄 2 펜티엄 2에 탑재된 128MB RAM보다 큰 512MB RAM을 장착했지만, 60MB의 llama2.c가 동일한 RAM 메모리를 활용하기 때문에 섬세한 조정을 거쳤다는 설명이다.
데이비드 CTO는 이런 과정을 거쳐 결국 라마 2를 활용, 모델이 장문의 글을 생성하는 데 성공한 영상을 공유했다.
이번 실험의 바탕이 된 EXO 프로젝트는 고가의 GPU 없이도 누구나 LLM을 사용할 수 있다는 것을 보여주기 위한 것이다. 데이비드 CTO도 "512MB 메모리라면 허깅페이스의 '스몰LM(SmolLM)'이나 4비트 0.5B '큐원 2.5'도 구동할 수 있을 것"이라는 지적에 따라 "도전 수락!"이라고 답했다.
따라서 향후 더 큰 모델을 구동할 수 있을지, 또 수십년 전 출시된 기기로 LLM을 구동하는 다른 시도가 이어질지 주목된다.
임대준 기자 ydj@aitimes.com
