씽크포비엘이 인공지능(AI) 신뢰성 논의 확대에 나섰다.
씽크포비엘(대표 박지환)은 30일 서울 강남 앙트레블에서 '제2회 TRAIN 세미나’를 개최, AI 시대 데이터 거버넌스를 중심으로 AI 신뢰성 체계 구축에 대한 논의를 진행했다.
첫번째 세션에서는 윤건 한신대 공공인재빅데이터융합학과 교수가 발표에 나서 "데이터 거버넌스는 AI 거버넌스로 이어질 것"이라고 밝혔다. AI 모델의 기반이 데이터인 만큼 신뢰할 수 있는 데이터가 신뢰할 수 있는 AI로 이어진다는 설명이다.
"AI가 아니어도 데이터를 활용할 수 있는 분야는 무궁무진한 게 사실이지만, AI가 모든 업무와 산업으로 퍼져나가는 만큼 두개가 통합될 가능성이 크다"라며 "AI 거버넌스와 데이터 거버넌스를 분리할지 통합할지는 조직 운영 목표와 AI 활용 수준, 데이터 관리 필요성 등에 따라 다를 것"이라고 말했다.
특히 AI가 상위개념이 돼서는 안 된다고 강조했다. 데이터 거버넌스에 대한 관심을 잃지 않으면서 AI 거버넌스와 통합적으로 운영할 수 있도록 하는 것이 중요하다고 전했다.
이를 위해서는 ▲필요한 데이터의 지속 가능한 수집 ▲실시간 수집 ▲데이터 소유권과 사용권의 명확한 구분 등 '데이터 시장 활성화'를 위한 제도적-기술적 노력이 필요하다고 덧붙였다.
두번째 주제 발표는 유대훈 제네시스랩 AI최고책임자(CAIO)가 맡았다. 박지환 씽크포비엘 대표는 제네시스랩에 대해 "AI 신뢰성에 있어서는 단연 국내 상위 기업"이라고 소개했다.
유대훈 제네시스랩 CAIO는 "23년간 개발자로서 업계에 종사한 결과 머신러닝에서 딥러닝, 알고리즘에서 데이터 등 트렌드가 변화해가는 것 같다"라며 "2017년부터 AI 신뢰성, 데이터 거버넌스에 대한 고민을 지속해 온 만큼 기업 내에서의 '거버넌스 조직 구성'의 필요성을 실감하고 있다"라고 말했다.
이어 "거버넌스 연구와 서비스-기술 개발 간 의견 통합이 어려운 만큼, 기업에서는 실제 운영할 서비스 차원에서 어떤 거버넌스가 필요할지 고민할 필요가 있다"라고 강조했다. 실제 제네시스랩 내부에서는 번거로움을 감수하면서도 로그인 시간 제한 등 엄격한 데이터 관리 시스템(보안 체계)을 구축해 AI 모델을 개발할 수 있도록 관리 중이라고 밝혔다.
"결국 사람의 인식 제고가 중요하다"라며 "서비스 개발자, 사용자, 관리자 등 관계자들에게 데이터 윤리 교육도 진행하고 있다"라고 덧붙였다.
하지만 데이터 신뢰성 구축 자체가 시장에서 상품 가치(매출)로 이어지기는 힘들다는 점, 생각보다 많은 리소스 투입이 필요해 AI 스타트업에서는 실현하기 어렵다는 점 등 한계가 존재한다고 전했다.
이후에는 천선일 씽크포비엘 AI 신뢰성 선임연구원이 '해외에서의 데이터 거버넌스 구축 사례'를 주제로 발표를 진행했다.
특별 세션에서는 아피바디 피야툼롱 태국 국가과학기술개발원(NSTDA) 및 국립전자컴퓨터기술원(NECTEC) 인공지능연구단 선임연구원이 태국의 범정부 차원 AI 정책을 소개했다. 그는 AI 신뢰성 관련 교육 및 자격증에 관한 태국 내 관심 및 수요를 설명한 뒤 TRAIN 등 국내와의 교류 및 협력 강화 의지를 전했다.
한편, 이번 행사는 TRAIN이 지난 8월에 이어 두번째로 개최하는 정기 세미나다.
올해 12월에는 ‘데이터 편향 문제와 해결책’을 주제로 세번째 행사를 진행할 예정이다. 내년에는 ‘AI 추출과 중독이 미치는 위험(4회)’ ‘AI 정렬과 관리 프레임워크(5회)’ ‘인적 감독의 중요성과 실제 사례(6회)’ 등을 주제로 격월 세미나를 개최한다.
장세민 기자 semim99@aitimes.com
