오늘날 인공지능(AI)은 로보틱스, 사물인터넷(IoT), 가상현실(VR)과 더불어 기술 업계에 떠오르는 스타다. 자율주행차량, 즉석 언어번역기, 대화형 로봇 모두 AI의 산물이다. 긍정적인 트렌드로 볼 수도 있다. 부단한 노력과 개발은 기술적 진보를 불러오기 때문. 하지만 모든 일에는 넘지 말아야 할 선이 있다.
구글을 향한 반발
최근 미국 구글이 중국 시장 재진출을 목표로 '드래곤플라이(Dragonfly)'라는 검색엔진 개발 프로젝트를 진행 중인 것으로 드러나 안팎에서 홍역을 치렀다. 언론 보도에 따르면, 드래곤플라이는 중국 정부가 민감하게 여기는 이슈의 검열에 협조하는 중국판 검색엔진이다.
반발은 거셌다. 고위 직원 7명이 투명성이 부족하다며 회사를 떠났고, 소프트웨어 엔지니어들의 집단 반발에 부딪혔다. 또한 직원 1,000여 명이 드래곤플라이의 개발 과정을 투명하게 공개하고, 윤리적 프로세스를 설립해 줄 것을 요구하는 탄원서에 서명했다. 구글은 직원의 대량 이탈로 이어질까 두려웠는지 부랴부랴 진화에 나섰다. 하지만 중국판 검색엔진 개발을 전면 부인하거나, 철회한다는 발표는 하지 않았다.
구글은 지난 2010년 중국 정부 당국이 요구하는 정보 검열 등의 문제가 불거지면서 중국에서 본사와 관련한 일체의 검색 서비스를 철수한 바 있다. 표현의 자유를 신조로 내세운 구글이 갈지자 행보를 보이자 시장은 물론 직원들도 큰 충격을 받은 모양새다. 당연히 AI 윤리 옹호자들의 거센 비판도 쏟아졌다.
트위터의 정보수집 알고리즘
지난 3월 미국 페이스북도 홍역을치렀다. 대선 당시 트럼프 캠프의 캠페인을 담당했던 정보분석 회사 케임브리지애널리티카가 페이스북 사용자 5,000만 명의 개인정보를 비밀리에 입수해 활용했다는 보도가 나오며 개인정보유출 논란이 일었다.
비슷한 시기에 트위터도 물의를 빚었다. 다만 페이스북-케임브리지애널리티카((Cambridge Analytica, CA) 스캔들에 비하면 트위터를 향한 비판은 소소했다. 페이스북-케임브리지애널리티카 스캔들은 정치적 사안으로 비화되었기 때문이다. 하지만 두 회사가 일으킨 논란은 개인 정보 유출과 관련되어 있다는 점에서 다르지 않다. 그리고 트위터와 페이스북 모두 AI를 십분 활용하고 있다.
지난 9월 개인정보 및 콘텐츠 편향 문제로 청문회에 참석했던 잭 도시 트위터 CEO는 AI의 능력에 관련한 질문을 받았다. 잭 도시 CEO는 ‘설명 가능 인공지능(Explainable AI, XAI)’에 투자를 틀리고 있다는 발언으로 대충 얼버무렸다. XAI는 판단에 대한 이유를 사람이 이해할 수 있는 방식으로 제시하는 AI를 일컫는다. 결과만 알려주는데 그치지 않고 어떤 근거로 판단에 이르렀는지 논리적으로 설명해주기 때문에 불확실성을 해소, AI의 신뢰성을 높일 수 있다.
잭 도시 CEO의 XAI 거론은 시사하는 바가 적지 않다. 현재 사용 중인 AI 알고리즘이 어떻게 결정을 내리는지 정확히 모른다는 뜻이기 때문이다. 결국 자신들의 무능을 우회적으로 인정한 셈이다.
'위험보다 혜택이 훨씬 많다'라는 논리를 펴는 사람들이 많다. 틀린 말은 아니다. 위험을 감수하지 않고 진보를 이룩한다는 것은 어불성설에 가깝다. 그렇지만 그것이 위험을 완전히 무시해도 좋다는 뜻은 아니다. 혜택에 취해 마냥 손을 놓고 있다가는 AI는 언젠가 재앙이 될 수 있다. 그래서 AI 윤리는 중요하다. 경솔하게 혹은 나쁜 의도로 사용되었을 때, AI가 인간에게 해를 끼칠 수 있는 능력은 가히 모자람이 없다.
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com