한국지능정보사회진흥원(NIA, 원장 황종성)과 과학기술정보통신부(장관 배경훈)는 AI 모델의 안전성 및 신뢰성 평가 기반 구축을 위한 'LLM 안전성 및 신뢰성 평가 데이터셋 구축' 사업 착수보고회를 7일 NIA 서울사무소에서 개최했다고 밝혔다.
이는 '독자 AI 파운데이션 모델 프로젝트'를 통해 구축되는 AI 모델 등에 대한 안전성과 신뢰성 성능을 평가하기 위한 검증 체계를 구축하기 위한 사업이다.
특히 사이버 보안, AI 자율성, 사실 기반 정확성, 사회적 가치 편향 등 AI 안전성과 신뢰성 핵심 항목을 아우르는 총 2만 건 이상의 한국어 특화 벤치마크 데이터셋을 구축할 계획이며, 글로벌 기준에 부합하는 AI 모델 평가 체계로 발전시킬 예정이다.
이날에는 주무부처인 과기부, NIA와 데이터 구축을 수행하는 인공지능안전연구소(소장 김명주) 관계자가 참석하여 데이터 구축 방향, 평가 체계 설계, 글로벌 연계 전략 등을 논의했다.
황종성 원장은 "NIA가 그동안 AI 허브를 통해 축적한 1300여 종의 AI 학습데이터와 평가 체계 전문성을 총동원해, 세계 최고 수준의 AI 안전성 검증 체계를 구축하겠다"라며 "이를 통해 대한민국이 글로벌 AI 신뢰성 표준을 선도하는 국가로 자리매김할 것”이라고 강조했다.
박수빈 기자 sbin08@aitimes.com
관련기사
