샘 알트먼 오픈AI CEO가 온디바이스용 추론 모델 개발을 예고했다. 현재 출시 준비 중인 오픈 웨이트 모델과는 별개로, 온디바이스용 소형모델을 따로 개발하겠다는 뜻은 이전에도 밝힌 바 있다.
알트먼 CEO는 25일 X(트위터)를 통해 온라인 투표를 진행했다. 내용은 "o3-미니 수준의 모델이 휴대폰에 탑재될 시기는 언제라고 생각하는가"라는 내용이다.
투표 시작 10시간이 지난 현재, 40%가 넘는 사용자들이 '2025년'을 선택했다. 이어 '2026년'이 27%로 뒤를 이었다.
o3-미니 수준이 어떤 모델인지는 전혀 설명이 전혀 없다. 하지만 알트먼 CEO는 지난 2월에도 비슷한 설문을 진행한 바 있다.
당시에는 "GPU에서 실행해야 하지만 꽤 작은 o3-미니 수준의 모델을 만드는 게 더 유용할까요, 아니면 우리가 할 수 있는 최고의 휴대폰 크기 모델을 만드는 게 더 유용할까요"라는 내용이었다. GPU에서 실행하는 클라우드 버전에 근소한 차로 표가 더 모였다.
따라서 이번 질문도 오픈AI가 매개변수 10B 이하의 추론 모델을 만들겠다는 뜻으로 보인다. 이는 올 여름 출시가 유력한 오픈AI의 첫 오픈 웨이트 파운데이션 모델과는 별개다.
what year do you think an o3-mini level model will run on a phone?
— Sam Altman (@sama) June 24, 2025
특히, 지난번 설문과는 내용이 미묘하게 바뀌었다. 당시에는 o3-미니 수준 모델은 GPU에서 실행하는 클라우드 모델이라는 조건을 붙였지만, 이번에는 휴대폰에 탑재할 모델이라고 소개한 것이다.
따라서 오픈AI는 온디바이스 추론 모델을 개발하기로 결정했으며, 출시 시기를 가늠하기 위해 설문에 나선 것으로 볼 수 있다.
이는 조니 아이브와 진행 중인 AI 하드웨어 개발과도 무관하지 않을 것으로 보인다. 새로운 장치는 카메라와 마이크를 통해 외부를 인식하고 자료를 수집하며 음성 기능으로 사용자와 상호작용하는 장치로 알려져 있다. 여기에 들어갈 AI는 인터넷 연결이 필요없는 온디바이스 모델이 매우 유리하다.
또 오픈AI가 음성 비서나 에이전트를 위한 온디바이스 모델을 내놓으면 휴대폰이나 노트북, 웨어러블 등을 제작하는 하드웨어 기업의 관심이 대단할 수 있다. 현재 이런 용도의 온디바이스 모델로는 구글의 '제미나이 나노'와 '젬마', 마이크로소프트(MS)의 '파이' 등이 대표적이다.
물론, o3-미니와 맞먹는 수준이라면 상당한 경쟁력을 갖춘 것으로 볼 수 있다.
그동안 오픈AI는 초경량 모델 분야에는 나서지 않았다. 그러나 모델이 나온다면 구글은 물론, MS와의 경쟁이 불가피하다.
임대준 기자 ydj@aitimes.com
