과기부·NIA "AI 윤리·법 위해 데이터 체계 구축 필수적"

과학기술정보통신부(장관 이종호)와 한국지능정보사회진흥원(NIA, 원장 황종성)이 국가 차원에서 준비하는 인공지능(AI) 법안 현황을 공유했다. 이 가운데 '안전한 데이터 체계'를 강조했다.

국제인공지능윤리협회(IAAE, 회장 김명주)는 16일 서울 역삼동 마루180에서 기업을 위한 인공지능(AI) 윤리와 AI 안전 방향성을 주제로 ‘2024 ASC(AI Safety Compass)’ 컨퍼런스를 개최했다.

전창배 IAAE 이사장이 개회를 선언했으며, 서울여자대학교 교수인 김명주 IAAE 회장이 환영사를 진행했다. 이어 정부기관이 바라보는 'AI 안전성'을 공유하기 위해 엄열 과학기술정보통신부 국장과 윤창희 NIA AI정책연구팀장이 차례로 나섰다. 

먼저 엄열 과기부 국장은 '과기부가 바라보는 AI 법안 및 방향, 기업이 나아가야 할 방향과 법안 진행 상황'을 주제로 강연을 진행했다. 그는 "지난해 국가가 '기술-데이터-인력-컴퓨팅-인프라 확충'에 투입한 예산만 약 9000억원에 달한다"라고 밝혔다.

실제 국내는 영국 토터스미디어가 발표한 '2023년 글로벌 AI 인덱스'의 'AI 분야 투자-혁신-구현 수준 국가경쟁력 비교' 부문에서 전 세계 6위를 차지했다. 엄 국장은 "하지만 여전히 국내 인력 및 투자 부문에서는 보충이 필요한 상황"이라고 밝혔다. 

특히 인재 측면에서 수년 전부터 AI융합대학원 등을 설립하는 등 다방면으로 노력 중이라고 설명했다.

더 신속한 '국가 AI 대전환'을 추진하기 위해 ▲법률 ▲의료 ▲심리상담 ▲미디어-문화 ▲학술 등 5대 분야를 지정, 올해만 383억원을 투입해 초거대 AI 구축에 본격 나설 계획이라고 전했다. 

이 가운데 가장 중요한 안건으로 '데이터'를 꼽았다. 데이터 저작권 문제를 해소하기 위해 ▲법률 ▲의료 ▲교육 ▲교통 ▲로보틱스 ▲국방 등 10대 분야에서 70여 종의 신규 '학습용 데이터'를 구축하겠다고 밝혔다. 최종적으로 '데이터 원-윈도(One-Window)'를 추진, 편리하게 데이터를 유통할 수 있는 거래 체계를 구축할 방침이다. 

이 외에도 "고위험 AI 분야를 지정, 해당 기업 및 분야에서 사업자 책무를 지정할 계획도 있다"라고 밝혔다. 하지만 현재 추진 중인 국내 AI 법률에서는 처벌 관련 사항을 구체적으로 명시하지 않고 있다. 지나친 규제로 인한 사업 위축 가능성을 고려했다는 설명이다.

이어 윤창희 NIA AI정책연구팀장은 '우리에게 정말 유용한 기술 및 정책은 무엇인가'에 대한 세션을 진행했다.

그 역시 데이터를 강조했다. 현재 국내 기업은 오픈 소스 모델의 미세조정이 얼마든지 가능한 기술 수준이기 때문에, 결국 국가가 주목할 부분은 데이터와 프레임워크, 생태계라고 밝혔다.

특히 정부 차원에서 기획 중인 대형언어모델(KGov-LLM)에도 오픈 소스를 적극 이용, 미세조정을 활용할 계획이라고 전했다. 

KGov-LLM은 오픈 소스 LLM에 한국어 사전학습용 데이터를 결합하는 방식으로 개발할 예정이라고 밝혔다. 교육이나 환경, 재난 대책 등 공공목적으로 가진 모델로, 대국민 서비스를 위한 상담이나 SNS 관리 등에 연계할 계획이다.

다만 현재 기획 중으로 출시일 등을 언급하기에는 초반 단계라고 전했다.

이때 LLM은 민감 정보 및 데이터를 보호할 수 있도록 '자동 비식별화 모델'을 구축해야 한다고 덧붙였다. 이후 담당자의 승인을 거쳐 최종 확인된 데이터만 공공데이터로 지정, 기업 등과 공유할 수 있도록 새로운 프레임워크를 제안한 것이다. 

이 외에도 21~22일 국내에서 열리는 AI 안정 정상회의의 후속 행사, 'AI 서울 정상회의'를 언급했다. AI의 전 세계적 도입이 기정사실화된 상황에서, 앞으로 중요한 것은 'AI를 지혜롭게 도입하는 방법'이라고 강조했다.

한편 이날 행사 기업 세션에는 ▲이화란 네이버 퓨처AI센터 리더 ▲박찬준 업스테이지 수석 연구원 ▲안재만 베슬에이아이 CEO ▲유상윤 에임인텔리전스 CEO ▲이영복 제네시스랩 CEO 등이 연사로 나섰다. 

장세민 기자 semim99@aitimes.com