#1. 아시아인과 흑인의 얼굴인식 정확도가 백인보다 현저히 떨어졌다. 2019년 미국 표준기술연구소(NIST)가 189개의 얼굴인식 알고리즘에 대한 성능 평가를 진행한 결과다. 실험 결과 아시아인이나 흑인의 얼굴은 백인보다 최대 100배까지 잘못 인식됐다.
#2. 아마존은 AI가 지원자의 이력서를 평가할 수 있는 알고리즘을 개발하다 중단했다. 이력서에 '여학교'와 같은 여성을 상징하는 단어가 있으면 부정적으로 평가했기 때문이다.
#3. 마이크로소프트(MS)는 2016년 트위터에 '테이(Tay)'라는 AI 챗봇을 소개했다. 하지만 이 챗봇은 16시간 만에 서비스가 중단됐다. 테이가 사람들과 트윗을 주고받는 과정에서 인종차별적이고 성차별적인 글을 남겨서다. 테이가 남긴 글은 "정말 페미니스트가 싫다", "나는 유대인을 증오한다"는 등이었다.
이 사례는 인공지능(AI) 기술이 낳은 편향성과 오류 문제다. AI가 발전하고 여러 분야에 접목도 사용되면서 사용자 편의성은 증대되고 있지만, 편향성이나 오류와 같은 문제도 양산하고 있다.
AI 편향성과 오류 문제는 AI 개발 기업과 소비자에게 모두 치명적인 피해를 입힌다. 아마존과 MS의 사례처럼 기껏 개발한 AI 모델을 사용할 수 없게 되고 소비자는 편향성 문제로 인해 잘못된 결괏값을 받아 또 다른 피해를 양산하게 된다.
따라서 AI 기업은 개발한 AI 모델을 신뢰할 수 있는지에 초점을 맞추고 있다. 아무리 좋은 제품을 만들어도 문제가 있으면 판매할 수 없기 때문이다. 이 문제를 줄일 수 있는 방안 중 하나는 'AI 신뢰성 검증'이다.
AI가 공정한지, 믿을 수 있는지 등을 항목으로 정립해 이 항목을 토대로 AI 제품과 서비스를 검증, 소비자에게 '이 제품은 믿을 수 있다'라고 알려주는 방법이다. 유럽연합(EU)이 제안한 AI 법안 '고위험 AI 시스템의 요구사항'을 기반으로 AI 기반 제품과 서비스의 신뢰성, 관리체계의 적절성을 평가해 인증하는 제도가 AI 신뢰성 검증의 한 예시다.
바이러스와 백신으로 이해하면 쉽다. PC에 백신 프로그램을 설치하는 이유는 바이러스로 시스템이 오염되는 것을 방지하기 위해서다. 사용자는 혹시 PC가 바이러스에 걸린 것은 아닌지 정기적으로 검증한다. 이와 마찬가지로 개발했거나 사용하는 AI 모델이 편향성이나 오류를 일으키지 않도록 AI 신뢰성 검증을 진행하는 것이다.
이러한 시스템을 갖추기 위해서는 인력이 필요하다. 백신을 개발하는 인력이 있고 백신 전문 회사가 생겨난 것처럼 AI 신뢰성 검증도 이를 실현하기 위한 전문 인력이 양성돼야 한다.
최근 국내 대학에서는 이러한 인재 양성에 대한 움직임이 일고 있다. 최근 군산대는 IT융합통신공학과 학생들을 대상으로 'AI 신뢰성 검증을 위한 테스트 설계 교육'을 진행했다. 지난 6월 27일부터 7월 1일까지 진행된 이 교육은 전라북도청 지원을 받아 전북테크노파크가 주관하고 군산대 ICT특성화취업연계형사업단이 추진했다. 교육을 실시한 업체는 소프트웨어(SW) 공학기업 씽크포비엘이다.
교육에서는 씽크포비엘의 AI 신뢰성 검증 기술인 '데이터 밸런스'가 소개되고 관련 실습이 이뤄졌다. 교육 이후에는 데브옵스(DevOps) 강의도 진행됐다. 씽크포비엘 관계자는 "AI 신뢰성 검증 기술 교육이 대학에서 이뤄진 건 국내에서 군산대가 처음"이라며 "앞으로 더 많은 대학에서 교육을 진행할 예정"이라고 밝혔다.
씽크포비엘 측은 AI 신뢰성 검증은 앞으로 성장 가능성이 큰 시장이라고 전망했다. 관계자는 "아직 도입 단계라 전문인력 수요가 높아질 것으로 전망된다"며 "기존 '단순 눈알 붙이기' 형태의 데이터 가공인력이 아닌 직업 만족도가 높은 장기지속 전문인력으로서 경쟁력 있는 직업"이라고 설명했다.
조주필 군산대 IT융합통신공학과 교수도 의견을 같이했다. 조 교수는 "한국을 비롯한 글로버 기업이 법적제재 못지않게 기술적으로 AI 편향과 오류 문제를 해결하는 데 관심을 두고 있다"며 "이에 발맞춰 기업이 관련 기술을 개발 또는 고도화하고 있어 AI 신뢰성 검증은 앞으로 더욱 주목받을 분야"라고 말했다.
또 "기존 '데이터관리자', '개발자', '기획자', '관리자' 직군뿐만 아니라 신뢰성 관련 '인증원', '시험원', '평가원', '사용추적관리원' 등 새로운 직군과 직무 창출을 이끌 수 있어 기존에 기술로부터 소외된 인력이 진입할 좋은 기회가 될 것"이라고 전망했다.
박지환 씽크포비엘 대표는 "SW가 없으면 아무것도 할 수 없는 사회가 도래하고 있고 AI 신뢰성 검증 기술은 윤리적 관점에서 '착한 기술'로 인식돼 미래 인재상이 갖춰야 할 도덕적 필수 기술로 인식된다"며 "향후 수요가 큰 AI 신뢰성 검증 기술을 확대 적용하면 지방 대학 재학생이 수도권 대학 재학생 대비 상대적으로 특화 역량을 갖춰 진로 경쟁력을 확보할 수 있을 것"이라고 말했다.
AI타임스 김동원 기자 goodtuna@aitimes.com
