케이트 크로포드, USC 교수 겸 MS 연구원 ‘AI 지도’ 출판
“AI는 천연 자원·연료·노동력으로 만들어진 일개 시스템”
결과물만이 아닌, 생산과정을 살펴볼 필요가 있어
“감정인식 기술, 간단히 도구에 결합되면 큰 리스크 초래”
미국에서 인공지능(AI) 기본성능에 대해 비판적인 시각을 담은 책이 발간됐다. 서던 캘리포니아대학 교수이자 마이크로소프트(MS) 현 연구원이기도 한 케이트 크로포드(Kate Crawford)는 최근 ‘AI 지도(Atlas of AI)’라는 이름의 책을 펴냈다.
주요 내용은 “AI 시스템이 발전할수록 이를 중심으로 얼마나 ‘비민주적 전환’이 이루어지는지 알리는 것”이다.
그가 책을 통해 촉구하고자 하는 것은 AI가 쓰이는 다양한 분야에서 부작용에 대응하는 규제 마련이다. 최근 유럽연합 집행위원회에서 세계 국가 중 가장 처음으로 AI규제초안을 발표한 것과 비슷한 맥락이다. 정부 뿐 아니라 현역 AI 전문가들 사이에서도 AI 연구와 상용화에 제한을 둬야 한다는 목소리가 더욱 커지고 있는 모양새다.
크로포드는 와이어드와의 인터뷰에서 “AI라는 이름은 기만적”이라며 “이 기술은 절대 인공적이지도, 똑똑하지도 않다”고 못박았다. 거대 IT 기업들이 AI에 대해 인간사회에서 보다 강력하고 정확하게 선행을 위한 도구로 묘사하지만 “이같은 신화에는 치명적인 결함이 존재한다”고 꼬집었다.
크로포드에 따르면 AI는 방대한 양의 천연 자원과 연료, 그리고 인간의 노동력으로 만들어진다. 그는 이렇게 만들어진 기술은 “어떤 인간보다 똑똑하지 않으며, 그저 일개 시스템에 불과하다”고 말한다. 인간의 주도하에 광범위하고 지속적인 훈련 없이는 사물을 분별할 수 없다는 것이다.
그러나 업계 개발자도, 일반 대중도 이러한 과정을 잊은 채 마치 AI가 인간의 지능과 유사하거나 몇십 배 뛰어나다는 착각에 빠진다. 크로포드는 AI가 어떻게 만들어지는 지에 대한 객관적이고 확실한 논리 기반의 통계가 항상 공개돼야 한다고 강조한다. 결과물만이 아닌, 생산과정을 살펴볼 필요가 있다는 설명이다.
크로포드는 1980년대부터 데이터세트 개발이 보편화 되면서 결과에만 초점을 맞춰 AI가 발전해왔다고 꼬집었다. 그는 “꾸준히 학습방법을 진화시키면서 데이터세트는 더욱 정교해지고 대량화 되었지만 여전히 오류문제가 남아있는 것이 현실”이라고 강조했다.
일례로 미 최대 온라인 커뮤니티인 레딧에서 추출한 문장과 어린이 동화책에 나오는 문장은 뉘앙스도 단어도 전혀 다르다. 그렇지만 만약 AI가 학습 과정에서 정확한 필터링이 결여된 채 두 가지 출처에서 언어를 훈련한다면, 엉뚱한 교육용 자료가 탄생할 수 있는 위험이 있다. 이에 크로포드는 “2021년을 시작으로 교육 세트에 어떤 종류의 데이터가 저장되어 있는지, 데이터가 어떻게 획득되었는지 등 잠재적 윤리문제를 파악할 수 있는 업계 표준이 시급하다”고 주장했다.
크로포드는 감정인식 기술에 대해서도 부정적인 입장을 보였다. “AI 감정인식은 인간 본성에 대한 원초적 질문에 마침내 기술이 답할 것이라는 환상을 자아낸다”고 말했다. 그는 “심리학 분야에서도 완전한 답을 찾지 못한 논쟁적인 내용을 간단히 도구(tool)에 결합시켜 기록된(훈련된)대로 감정에 연관시키는 것은 큰 오류를 범하는 지름길”이라고 경고했다.
미국은 최근 들어 감정인식 기술을 놓고 쇼핑객을 잡기 위한 마케팅부터 학교, 의료, 형사사법, 법정 등에서 활용하는 방안을 논의하고 있다. 크로포드는 이를 두고 “이러한 시스템은 가장 강력한 특권을 가진 이해관계자들에 의해 사용되고 있다”며 “편중된 수학적 접근 방식과 너무나 협소한 시각에 기반한 연구가 아닌 편향과 윤리적 문제까지 고려한 연구가 필수여야 할 것”이라고 밝혔다.
이 책은 그동안 AI 발전이라는 미명아래 그늘에 가려져있던 천연자원과 인력, 프라이버시, 평등, 자유에 이르기까지 인공지능의 숨겨진 비용에 대해 다루고 있다. 캘리포니아 주립대 어바인의 제프리 보우커 교수는 서평에서 “AI라는 새로운 식민주의에 대해 사회·정치적 분야로 나눠 명쾌하고 심오하게 설명하는 우리 시대 고전”이라고 평했다.
AI타임스 박혜섭 기자 phs@aitimes.com
[관련기사] “실망스럽다” vs. “당연하다” 의견 분분... 유럽연합, AI규제안 발표 후 글로벌 기업 반응은?
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com