[10월28일] 개봉 40주년 맞은 '터미네이터'..."스카이넷보다 가능성이 높은 것은 디지털 전체주의" < 뉴스 브리핑 < 포커스 < 기사본문

지난 26일(현지시간)은 영화 '터미네이터'가 미국에서 개봉된 지 40주년을 맞은 날이었습니다. 현재 인공지능(AI)에 대한 대중의 인식에 가장 크게 영향을 미친 것으로 평가되는 터미네이터와 스카이넷은 1984년 10월26일 세상에 첫선을 보였습니다.

제임스 카메론 감독의 인터뷰가 여기저기에서 등장했습니다. 카메론 감독은 이미 AI에 대해 많은 이야기를 내놓았기 때문에 새로운 이야기가 나오기는 어려울 것으로 봤습니다.

그러나 25일 비즈니스인사이더에 소개된 인터뷰는 기존과는 좀 달랐습니다. 그는 영화와 같이 스카이넷이나 터미네이터가 인류를 해치는 것보다 더 가능성이 높은 시나리오가 있다고 밝혔습니다.

바로 '감시 자본주의(surveillance capitalism)'를 통해 '디지털 전체주의(digital totalitarianism)'가 가속화될 것이 큰 위협이라고 밝혔습니다.

우선 그는 영화처럼 미국 국방부나 정부가 스카이넷을 개발할 가능성은 없으며, AGI가 나온다면 "현재 수십억달러의 자금을 투자하는 기술 기업에서 나올 것"이라고 밝혔습니다.

또 영화처럼 AI가 인간을 직접 해치는 시나리오보다 현실이 더 나쁠수 있다고 지적했습니다. 바로 "당신이 동의하지 않았고 투표하지도 않았지만, 기업의 목표와 규칙에 따라 행동하는 초지능 외계 종족과 함께 거주하는 세상에서 사는 것"을 꼽았습니다.

초지능 외계 종족이란 "개인 데이터를 통해 통신, 신념, 당신이 한 모든 말, 그리고 전국의 모든 사람의 행방에 접근할 수 있는 개체"라고 설명했습니다.

즉 AI 기업이 소비자 데이터를 수집해 이익을 위해 기업 등에 판매하는 것을 '감시 자본주의'라며, 이를 통해 빠른 속도로 디지털 전체주의가 자리 잡을 것으로 봤습니다.

또 "거대 기술 기업들은 기껏해야 인간의 이익을 스스로 임명한 중재자가 될 뿐이며, 이는 닭장을 지키는 여우와 마찬가지"라고 말했습니다. 이익 앞에서는 AI 윤리를 따지는 것이 의미 없다는 것입니다.

그는 "이것은 40년 전에 터미네이터에서 제시했던 것보다 더 무서운 시나리오"라며 "이게 더 현실적인 이야기며, 이미 일어나고 있는 일"이라고 강조했습니다.

AGI에 대해서는 큰 관심이 없다고 덧붙였습니다. "AGI는 단지 우리를 반영할 뿐이기 때문"이라는 이유입니다.

"AGI는 우리가 선한 만큼 선하고, 우리가 악한 만큼 악할 것"이라며 "이미 세상에는 악이 넘쳐나고 선이 무엇인지에 대한 합의도 전혀 없으니, 무엇이 더 잘못될 수 있겠냐"라는 논리입니다.

카메론 감독은 기술 전문가는 아니지만, 지난 40년간 AI나 AGI에 대해 가장 많이 생각한 사람 중 하나인 것은 부인할 수 없을 것 같습니다. 최근에는 스태빌리티 AI의 이사로도 업계에 발을 들였습니다.

가장 중요한 점은 SF식 인류 종말론보다 AI 기업에 의한 개인 데이터 수집과 이를 통한 AI의 영향력 확대를 경고한 것입니다. 이미 사람들은 알고리즘에 의해 선택을 강요당하고 있습니다.

이런 점을 지적하는 사람은 카메론 감독뿐이 아닙니다. 얼마 전 게리 마커스 뉴욕대학교 명예 교수는 오픈AI가 자금 확보를 위해 대형언어모델(LLM)로 방대한 양의 데이터를 분석, 이를 기업이나 정부 등에 팔아넘길 수 있다고 경고했습니다.

그 역시 AI 회사가 '감시 회사(surveillance company)'가 될 것으로 예측했습니다.

이처럼 최근에는 터미네이터식 종말 시나리오 대신, AI로 인해 '오웰식' 감시 체제가 생길 것이라는 이야기가 나오고 있습니다.

이런 이야기에 고개가 끄덕여지는 것은 스카이넷의 핵전쟁보다 대비가 더 어렵기 때문입니다. 전 세계 그 어떤 정부도 AI에 핵무기 스위치를 맡기는 데 동의하는 곳은 없습니다. 지난주 미국 정부도 이를 명문화했습니다.

하지만 AI의 상업화는 기술적으로 통제할 수 있는 것이 아닙니다. 그리고 이미 우리는 인터넷과 모바일, TV 등에서 알고리즘의 영향을 받고 있습니다.

AI 챗봇에 대한 의존도가 높아지고 있다는 지적도 잇따르고 있습니다. 특히 AI 에이전트의 등장으로 얼마 뒤에는 AI가 인간 간섭없이 스스로 작업을 처리할 판입니다.

언젠가 우리는 직접 하지 않은 것에 대해 책임을 지게 될지도 모릅니다. 그리고 우리보다 더 많은 일을 한 AI가 우리의 정체성을 대신할지도 모릅니다. 이런 문제들은 아직 깊게 논의된 바도 없습니다.

AI 에이전트와 AGI의 등장이 멀지 않았다는 발언이 잇따르고 있습니다. 카메론 감독의 메시지는 이런 점을 경고하는 것으로 보입니다.

이어 주말 주요 뉴스입니다.

구글이 오는 12월 AI 에이전트와 '제미나이' 새 모델을 공개한다는 소식입니다. 시기적으로나 최근 분위기상으로는 단순한 루머는 아닐 것으로 보입니다.

앤트로픽의 '컴퓨터 유즈' 기술을 체험한 전문가들이 대단하다는 평가를 잇따라 내놓았습니다. 사람 대신 작업을 처리해 주는 모습에 "이것이 AGI"라는 평가까지 등장했습니다.

오픈AI가 '오라이온'으로 알려진 GPT-5를 12월 출시하다는 소식이 전해졌고, 알트먼 CEO는 이를 강력하게 부인했습니다. 11월30일이 챗GPT 2주년이라는 것을 감안하면 그럴듯한 시나리오였는데, 어쨌든 GPT-5를 보려면 좀 더 기다려야 할 것 같습니다.

AI타임스 news@aitimes.com