▲인공지능 기술이 발전함에 따라 테러보다 더 큰 위협이 발생할 가능성이 있다(출처=셔터스톡)

인공지능(AI)과 기계 성능이 발전함에 따라 인류가 아직 방어할 준비가 되지 않은 위협이 발생할 가능성이 커지고 있다. 영국과학협회 회장이자 서리대학 물리학과 교수인 짐 알-칼릴리 교수는 아직 확인되지 않은 AI의 진화가 인간에게 테러나 기후 변화보다 더 큰 위험을 초래할 수 있다고 주장했다.

사이버 공격과 불평등

▲전문가들은 AI가 우리에게 부정적인 변화를 초래할 수 있다고 말한다(출처=셔터스톡)

짐 알-칼릴리 교수는 영국과학축제(BSF)를 앞두고 강연을 하면서 AI가 우리에게 가져올 수 있는 위협에 대해 청중에게 경고했다. 그는 2년 전에 사람들이 미래에 대해 이야기할 때 가장 시급하고 중요한 주제로 채택해야 할 것이 무엇이냐는 질문을 받은 적이 있다고 말했다. 당시에는 기후 변화나 빈곤, 테러, 전염병 위험 등에 관해 이야기했을 것이라고 말했다.

하지만 그것은 2년 전이었기 때문이다. 그는 오늘날 지구의 미래를 두고 이야기할 때 가장 중요하게 생각해야 할 것은 AI라고 강조했다. 알-칼릴리 교수는 "AI는 다른 모든 문제들을 포괄해서 그 우위를 점할 것이다"라고 덧붙였다.

또한 AI 개발에 대해 충분한 규제가 존재하지 않는다고 경고했다. 이로 인해 러시아 사이버 범죄자들이 2016년 미국 대선 결과에 어떤 영향을 미쳤는지를 보라며 예를 들었다. 앞으로는 사이버 범죄자들의 사회 착취가 증가할 것이라고도 말했다.

그는 "사이버 테러리스트들이 미래 AI 통제 전력망, 수송 시스템, 군사 시설, 은행 등을 해킹하지 못할 이유가 무엇인가?"라고 말했다.

알-칼리리 교수는 사회에서 AI의 역할이 커짐에 따라 대규모 실업이 발생할 것이며 부자와 빈곤층 사이의 경제적 격차는 더욱 심화될 것이라고 말했다. AI가 인간의 일자리에 혼란을 일으킬 것이기 때문이다. 그는 "로봇 공학과 자율 시스템은 일자리 손실을 가져올 것이다. 가장 큰 타격을 입는 사람은 숙련된 기술이 부족한 근로자다. 하지만 이런 자동화가 영국 전역에 어떤 영향을 미칠지에 대한 연구는 거의 없다"고 전했다.

 

올해 초 구글(Google)과 마이크로소프트(Microsoft)의 전진 간부인 카이푸 리는 AI의 빠른 발전 속도가 부자와 빈곤층의 분열을 더욱 빠르게 증가시킬 것이라고 말한 바 있다.

그는 "AI는 부의 분배와 불평등을 악화시킬 것이다. AI나 로봇으로 인해 일자리를 잃을 사람들은 하위 노동 계층 사람들이다. 왜냐하면 AI와 로봇이 단순 반복 업무를 대체할 것이기 때문이다. 즉 기술의 발전은 부자를 더욱 부자로 만들고 가난한 사람을 더욱 가난하게 만든다. 기술은 새로운 재벌 계급을 창출하는 동시에 가난한 사람들에게 남아 있던 것마저 빼앗는다"고 강조했다.

AI는 일부 소수의 사람들, 특히 기술을 개발하기에 충분한 부를 지닌 대기업에 의해 독점될 수 있다. 또한 이런 회사는 인건비를 줄이고 개발 비용을 늘릴 것이다. 자연스럽게 사람의 일자리가 사라진다.

포스바이츠에 실린 기사에 따르면 이런 문제를 위한 해결책으로 빌 게이츠는 로봇 세금을 언급했다. 또 최근 사회 각층에서 보편적 기본 소득에 대한 논의가 진행되고 있다. 이렇게 새로운 아이디어가 나오는 것은 좋은 출발이다.

대중 참여 및 투명성 증대의 필요성

▲전문가들은 앞으로 대중의 관심 및 참여와 투명성 증가가 필요하다고 말한다(출처=셔터스톡)

데일리메일과의 인터뷰에서 알-칼릴리 교수는 AI의 발전이 너무 빨라서 과거에는 상상조차 알 수 없었던 AI에 대한 관심과 투자 또한 계속해서 증가할 것이라고 말했다.

그는 AI의 진정한 잠재력은 대중의 참여와 투명성에 있다고 말했다. 이것이 부족하면 대중이 기술을 믿을 수 없게 된다. 인터넷이 처음 등장했을 때 발생한 혼란을 생각해보라. 앞으로 AI로 인한 혼란은 인터넷이 야기한 혼란과는 비교도 되지 않을 만큼 거대할 것이다. 알-칼릴리 교수는 AI를 유전자 변형 기술과 비교해 설명했다.

그는 "AI에 대한 대중의 반발은 유전자 변형 식품에 대한 대중의 반발과 비슷하다"고 말했다. 그리고 "대중이 이에 대해 관심을 가지지 않는다면 정책 입안자들은 AI에 대한 우선 순위를 낮게 책정할 것이다. 그러면 우리가 필요로 하는 규제가 너무 늦게 만들어질지도 모른다. 많은 사람들이 규제가 만들어지는 속도보다 AI 기술 발전 속도가 훨씬 빠르다는 점에 불안을 느끼고 있다. 정부는 잠재적인 위협으로부터 사회를 보호해야 한다"고 덧붙였다.

정부, 학계, 산업계가 응집력 있게 행동하지 않으면 강력한 통제가 만들어지지 않는다. 그렇게 되면 기술이 극도로 강력한 몇몇 기업만의 소유물이 된다.

꿈에서 현실로

 

AI는 이제 더 이상 공상과학 작가들의 상상력에만 존재하는 것이 아니다. 오늘날 과학 분야에서 AI는 눈부신 성장을 이어가고 있으며 이미 실생활의 다양한 곳에 실현되고 있다.

알-칼릴리 교수는 "과거에 인터넷이 우리의 삶을 변화시킨 것보다 AI가 우리의 삶을 더욱 크게 변화시킬 것이다. 우리는 이에 대비할 준비가 돼있는지 스스로 점검해야 한다"고 강연을 마쳤다.