SK텔레콤(대표 유영상)은 커뮤니티 허깅페이스에 자체 대형언어모델(LLM) ‘에이닷 엑스(A.X) 3.1’의 표준 버전(34B)을 공개했다고 24일 밝혔다.
매개변수 340억개(34B)인 에이닷 엑스 3.1은 SKT가 프롬 스크래치 방식으로 모델 구축과 데이터 학습 등 전 단계를 진행한 것이 특징이다.
또 지난 11일 먼저 공개한 70억 매개변수(7B)의 에이닷 엑스 3.1 라이트 버전의 오리지널 모델이기도 하다.
한국어 대화 성능에 집중했던 에이닷 엑스 3.0과는 달리, 3.1 버전에서는 추론 모델로 확장 가능성에 초점을 맞춰 코드와 수학 성능을 향상했다고 전했다.
한국어 능력 평가 벤치마크인 'KMMLU'에서 에이닷 엑스 3.1(69.20)는 ‘에이닷 엑스 4.0’(78.3) 대비 88% 수준의 성능을 확인했다. 4.0의 매개변수가 2배 이상(72B)이라는 것을 고려하면, 대등한 성능이라고 설명했다.
한국어 및 한국 문화 벤치마크인 'CLIcK'에서는 에이닷 엑스 3.1(77.1)가 4.0 버전(85.7) 대비 90% 수준의 성능을 기록했다고 덧붙였다.
이로써 SKT는 에이닷 엑스 3.1 모델 2종(표준, 경량)과 대규모 학습(CPT)에 기반한 에이닷 엑스 4.0 모델 2종(표준, 경량) 등 총 4가지 모델을 오픈 소스로 공개하게 됐다. 모두 학술 연구나 상업 이용 등에 자유롭게 활용 가능하다.
또 과학기술정보통신부 주관 ‘독자 AI 파운데이션 모델 사업’에도 지원했다. 컨소시엄에는 크래프톤, 포티투닷, 리벨리온, 라이너, 셀렉트스타 등 서울대학교 연구실, 한국과학기술원(KAIST) 연구진 등이 참여한다.
김태윤 SK텔레콤 파운데이션 모델 담당은 "소버린 AI 분야에서 새로운 성과를 만들어낼 것"이라며 "국내 AI 생태계를 종합적으로 고려해 혁신적 AI 모델을 선보일 것"이라고 말했다.
장세민 기자 semim99@aitimes.com
