AI기업을 이끄는 경영진에게 윤리란 대체 무엇일까. 페어 아이작 코퍼레이션(FICO)에 따르면 응답자 3분의 2가 구체적인 AI 결정이나 예측이 어떻게 이뤄지는지 설명하지 못했다.
FICO는 데이터 분석기법과 의사결정 관리 기술 분야에서 선두를 달리고 있는 기업이다. 업체는 시장조사 전문 기업 코리니움 인텔리전스에 의뢰해 미국 내 C급 AI 리더 100명을 대상으로 설문조사를 실시했다. FICO는 조사결과를 25일(미 현지시간) ‘2021년 책임있는 인공지능의 실태(The State of Responsible AI: 2021)’라는 이름의 보고서로 발표했다.
보고서에 따르면 AI 윤리위원회를 두고 있는 응답자는 22%에 불과했다. 대다수 기업에서 공정성을 구축하기 위한 준비가 미흡하다는 방증이다. 이를 설명하듯 설문조사 참여자 중 78%가 윤리적이고 책임감 있는 AI 활용을 위한 지원을 확보하기가 어렵다고 답했다.
AI 모델을 개발하는 과정에서 지켜야 하는 규정에 대한 인식도 낮았다. 응답자 3분의 2 이상이 AI 모델이 규정을 준수하기 위해 거치는 과정이 ‘효과적이지 않다’고 답했다. 또 10명 중 9명은 ‘비효율적인 모델 모니터링이 AI 채택에 걸림돌이 된다’고 생각하는 것으로 나타났다.
또 전체 참여자 중 43%가 AI 모델의 자동 의사결정에 대해 “인간사회에서 ‘간접적으로’ 영향을 미칠 뿐”이며 기업에게는 “윤리적으로 관리하기 위한 규제 준수 이상의 책임은 없다”고 생각하고 있었다.
FICO는 보고서에서 IT 업계에서 데이터 분석 현장 일선 종사자들은 위험, 규정 준수, 윤리 문제에 대한 인식이 높은 반면 기업 임직원들이 상대적으로 부족하다고 평가했다.
스캇 졸디 FICO 수석 분석 책임자도 “AI는 개발기업과 고객 사이에서 그들의 생명까지 좌지우지할 만큼의 강력한 기술”이라면서 “그렇게 대단한 기술이 결정을 내리는 상황에서 윤리적 공정성에 대한 인식 부족은 기업에 심각한 위험을 초래한다”고 경고했다.
졸디는 공식 보도자료를 통해 “AI를 활용하는 기업 내 선임 지도부와 이사회는 AI 모델 거버넌스와 제품 모델 모니터링 구조를 이해한 다음 시행해야 한다”고 강조했다. 그래야 “책임있고 공정한 의사결정이 가능하다”고 덧붙였다.
설문에 참여한 코트니 애버크롬비 AI 트루스(AI Truth) 대표는 “IT 기업이 아니더라도 거의 모든 기업들 사이에서 AI 채택이 늘어나고 있다”면서 “윤리인식은 저조한데 세계적으로 AI 영향력이 더욱 증가하고 있다”고 지적했다.
애버크롬비 대표는 “선임 의사결정권자부터 이사회뿐만 아니라 고객까지 모두 AI가 기업 내에서 어떻게 활용되고 있는지, 또 잠재적 위험 요소 여부와 이를 통제하고 감시하는 시스템에 대해서도 명확히 알고 있어야 한다”고 밝혔다.
이러한 결과를 25일 보도한 기술매체 데이터나미(Datanami)는 “AI윤리 의식에 대한 요구가 증가하면서 그 접근법이 다양해지는 것은 긍정적이지만 남용할 가능성도 여전히 높아 우려된다”고 전했다.
AI타임스 박혜섭 기자 phs@aitimes.com
