모든 사회 분야에 영향을 미치고 우리 삶의 기초가 될 메타버스 기술
볼 수 있도록 허용된 또는 허용되지 않은 것을 필터링하여 현실 조작
메타버스의 가장 위험한 부분은 의인화된 AI 기반의 대화형 에이전트
AI 에이전트가 사용자의 반응을 모니터링하여 '메시징' 전략을 조정
메타버스에서 허용되는 모니터링 목적, 대상 및 수준에 대한 규제 필요
메타버스에서 판촉을 위해 제3자가 사용자를 조작할 수 있는 방법 규제
메타버스는 10년 이내에 우리 삶에 절대적인 영향을 끼칠 것으로 예상되지만 기업들이 메타버스를 오남용할 경우 사회에 커다란 위험이 될 수 있으므로 적극적인 규제가 필요하다는 지적이 제기되고 있다. 메타버스는 쇼핑과 사교에서 비즈니스와 교육에 이르기까지 모든 것에 영향을 미치는 우리 삶의 기초가 될 것이다. 그러나 기업들이 메타버스를 악용할 경우 사회에 상당한 부정적인 영향을 끼칠 것으로 보인다.
메타버스의 핵심은 시뮬레이션된 광경, 소리, 심지어 감정까지 우리 주변의 실제 세계에 대한 인식이 원활하게 통합하여 가능한 가장 자연스러운 형태로 콘텐츠를 제공하는 미디어 기술이다. 이것은 현재까지 어떤 형태의 미디어보다 증강현실(AR)이 우리의 현실 감각을 변화시키고 직접적인 일상 경험을 해석하는 방식을 왜곡할 가능성이 있음을 시사한다.
대부분의 사람들은 데이터 수집 및 개인 정보 보호에 대한 우려에는 공감하지만 메타버스에서 가장 위험한 기술인 인공지능(AI)을 간과한다. 실제로 사람들에게 메타버스의 핵심 기술을 말하라고 하면 대개 안경에 집중하고 그래픽 엔진, 5G 또는 블록체인을 언급할 것이다. 그러나 그것들은 우리의 몰입형 미래의 핵심 요소일 뿐이다. 메타버스에서 경험을 생성 및 조작하는 기술은 AI이다.
AI는 모든 관심을 끄는 헤드셋만큼 우리의 가상 미래에 중요하다. 그리고 메타버스의 가장 위험한 부분은 다른 사용자처럼 보이고 행동하지만 실제로는 AI에 의해 제어되는 페르소나(persona)인 대화형 에이전트이다. 대화형 에이전트는 그것이 실제가 아니라는 사실은 깨닫지 못한 우리를 표적 삼아 광고주를 대신하여 ‘대화 조작’에 관여할 것이다. 우리가 볼 수 있도록 허용된 또는 허용되지 않은 것을 필터링하여 현실을 조작한다. 이는 AI 알고리즘이 개인의 관심과 신념, 습관 및 기질에 대한 데이터에 액세스하는 동시에 얼굴 표정과 목소리 억양을 읽어 감정 상태를 모니터링할 때 특히 위험하다. AI에 의해 왜곡된 AR과 메타버스는 이러한 위험을 이해할 수 없는 수준으로 증폭시킬 가능성이 있다.
소셜 미디어의 타겟 광고가 조작적이라고 생각한다면 메타버스에 참여하게 될 대화형 에이전트에 비하면 아무 것도 아니다. 그들은 어떤 인간 판매원보다 더 능숙하게 우리를 홍보할 것이다. 우리에게 단순히 상품을 판매하는 것만이 아니라 허위사실을 유포하고 사회적 분열을 조장하는 정보를 퍼뜨릴 수도 있다.
이것은 AI 에이전트가 우리가 어떻게 행동하는지 뿐만 아니라 우리가 어떻게 반응하는지 알고 가장 깊은 수준에서 우리의 응답을 프로파일링한다는 것을 의미한다. 이러한 이유로 우리는 AI 기반 대화형 에이전트를 규제해야 한다. 이는 이러한 알고리즘이 자세, 호흡, 심지어 혈압까지 평가하는 등 우리의 반응을 모니터링하여 대화형 에이전트가 실시간으로 메시징 전략을 능숙하게 조정할 수 있도록 하는 경우 특히 중요하다. 공식적으로 제한되지 않는 한 이러한 극단적인 수준의 대화 조작 이 발생할 수 밖에 없다.
이를 규제하지 않으면 AI 기반 아바타 형태의 광고가 사용자가 회의적일 때 이를 감지하고 문장 중간에 전술을 변경하여 개인적으로 영향을 미치는 단어와 이미지에 빠르게 초점을 맞춘다. AI가 세계 최고의 체스와 바둑을 이기는 법을 배울 수 있다면 소비자가 우리의 관심이 없는 물건을 구매하도록 그리고 믿도록 동요하는 법을 배우는 것은 너무 쉬운 일이다.
AI 에이전트는 시리(Siri)나 알렉사(Alexa)와 같은 디지털 비서의 자연스러운 진화이지만 메타버스에서 분리된 음성이 아니다. 그들은 메타버스에서 가장 강력하고 미묘한 형태로 강요되는 각 소비자를 위해 맞춰 의인화된 캐릭터일 것이다.
플랫폼 제공업체는 이러한 AI 에이전트를 가상 생활 코치로 판매할 것이며 메타버스를 탐색하는 동안 하루 종일 지속된다. 그리고 메타버스는 궁극적으로 현실 세계의 증강 레이어가 될 것이기 때문에 이 AI 에이전트는 쇼핑을 하든, 일을 하든, 아니면 그냥 어울리든 모든 곳에서 함께할 것이다.
그리고 이 AI 에이전트는 당신의 삶에 대한 상세한 데이터 기록과 함께 당신의 얼굴 표정과 목소리 억양에 접근하여 행동과 활동, 제품 및 서비스, 심지어 정치적인 견해까지 당신을 유도한다. 그들은 오늘날의 조잡한 챗봇이 아니라 친숙한 친구, 도움이 되는 조언자 및 돌보는 치료사가 혼합된 당신의 삶에서 신뢰할 수 있는 인물로 생각하게 될 구체화된 캐릭터가 될 것이다. 그러나 AI 에이전트는 친구가 할 수 없었던 방식으로 당신을 알게 될 것이다. 왜냐하면 그것은 당신의 혈압과 호흡수에 이르기까지 삶의 모든 측면을 모니터링할 것이기 때문이다.
이것은 소름 끼치게 들린다. 그래서 플랫폼 제공자는 당신을 따라다니는 인간 크기의 조수보다 당신의 ‘인생 모험’에서 마법 같은 캐릭터처럼 그들을 귀엽고 위협적이지 않게 만들 것이다. 그들이 당신의 어깨 너머로 떠 있는 요정이나 그렘린이나 외계인으로 보일 수 있기 때문이다. 귀에 대고 속삭이거나 날아갈 수 있는 작은 의인화된 캐릭터이다. 당신의 증강 세계에서 당신이 집중하기를 원하는 것들에 주의를 끌 수 있다.
이것은 특히 위험한 부분이다. 규제가 없으면 이러한 AI 에이전트는 비용을 지불하는 광고주에 의해 납치되어 오늘날의 소셜 미디어에서보다 더 뛰어난 기술과 정확성으로 당신을 목표로 삼을 것이다. 그리고 오늘날의 광고와 달리 이 지능형 에이전트가 귀여운 미소를 짓거나 킥킥거리면서 하루 종일 당신을 따라다니며 안내할 것이다.
특히 판촉 목적으로 사용자에 대한 제3자의 액세스 권한을 판매하는 기업이 제어할 때, 메타버스 내에서 제3자가 우리를 조작할 수 있는 방법도 규제해야 한다. AR, VR 및 AI를 사용하면 마케팅이 오늘날의 팝업 광고가 아니라 실제처럼 보이고 느껴지게 하는 미묘한 시뮬레이션이 추가될 것이기 때문이다. 즉, 조작일지라도 컴퓨터가 생성하는 콘텐츠가 진짜라고 믿게 만들 수 있다. 제3자가 증강 환경의 가상 제품 배치 비용을 지불하는 경우 플랫폼은 그것이 우연한 상호 작용이 아니라 의도가 있는 타겟 배치임을 알려야 한다.
궁극적으로 메타버스는 우리 삶을 풍요롭게 하고 인간에게 의미하는 바를 확장하는 놀라운 응용 프로그램을 가능하게 할 것이다. 동시에 우리가 피해야 할 매우 실제적인 위험이 있다. 위험을 방지하면서 마법을 가능하게 하는 가장 좋은 방법은 공간을 적극적으로 조절하는 것이다. 그리고 문제가 인프라와 비즈니스 모델에 너무 깊숙이 내재되어 해결할 수 없게 되기 전에 지금 해야 한다. 즉, 규제가 필요하고 시급하다. 좋든 싫든 메타버스가 곧 온다.
AI타임스 박찬 위원 cpark@aitimes.com
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com