지난달 미국 뉴욕 지하철에서는 인공지능(AI) 기기와 관련한 소동이 벌어져 주요 미국 매체의 관심을 끌었습니다. 지하철을 뒤덮은 '프렌드(Friend)'라는 기기의 광고에 낙서와 훼손이 심하게 벌어진 것입니다. 'AI는 친구가 아니다' 'AI 꺼져' 등과 같은 혐오 표현이 상당수였습니다.
프렌드는 하루 종일 사용자의 대화를 듣고 친구처럼 말을 걸어주는 AI 목걸이입니다. 문서를 요약하거나 메일을 써주지는 않지만, 언제 어디서나 대화를 듣고 요청하면 말을 걸어 줍니다.
이 문제가 불거진 것은 AI가 일자리에 미치는 영향에 대한 반발을 포함, 장치가 사람들의 동의 없이 목소리를 수집할 수 있다는 우려 때문입니다.
이 회사는 기기 광고를 위해 100만달러(약 14억5600만원)를 썼습니다. 그러나 광고 훼손이 이어지자, 아비 쉬프만 창립자는 지하철역에서 즉석연설까지 펼쳤습니다. 이 장치가 감시 목적으로 만들어진 것이 아니라는 해명도 했습니다.
이어 지난주에는 샌드바라는 스타트업이 '스트림 링(Stream Ring)'이라는 스마트 반지를 선보였습니다. 이 반지도 사용자의 목소리를 녹음해 휴대폰에 메모해 줍니다. 이 회사는 장치가 항상 작동하는 것은 아니며, 작은 버튼을 눌러야 한다고 강조했습니다. 그러나 상대방이 녹음 사실을 알아차릴 수 있는지는 확실하지 않습니다.
이 밖에도 사용자 음성을 녹음하거나 주변을 촬영해 준다는 기기는 이미 10여종에 달합니다. 그리고 가장 눈길을 끄는 것은 메타의 스마트 안경과 내년 출시 예정인 오픈AI의 챗GPT 전용 기기일 것입니다.
이처럼 AI 웨어러블이 늘어나며 일부는 프라이버시 침해나 개인정보 수집 등에 대해 강하게 반발하고 있습니다.
온라인 커뮤니티 레딧에는 이런 장치가 "미세한 결정을 관찰하고, 자발적인 행동을 추적하고, 미묘한 감정 반응을 측정하고, 우리 자신도 인지하지 못하는 무의식적인 패턴을 파악할 수 있다"라고 비난하는 글이 올라왔습니다. "단순히 사용자 경험을 개선하거나 더 나은 추천을 제공하는 것이 아니다. AI에 이전에는 접할 수 없었던 비정형적이고 암묵적이며 체화된 경험이라는 종류의 데이터를 제공하는 것"이라는 지적입니다.
이를 두고 '감시 자본주의'라고 비난하는 목소리까지 나왔습니다.
웨어러블이 오용될 수 있다는 우려는 이미 10년 전부터 나왔습니다. 구글이 2011년 공개한 증강현실(AR) 안경 '구글 글라스'는 도촬이 될지도 모른다는 우려 때문에, 미국의 일부 매장에서 착용자의 출입을 금지하는 일이 있었습니다.
그러나, 24시간 내내 사용자의 주변 환경을 기록하고 분석하는 것이 기기의 목적에는 더 부합합니다. 일상 중에 무심코 놓치거나 금방 까먹을 일을 AI가 기억하고 알려주는 것이 훨씬 유용하기 때문입니다.
사실 현재 AI의 일반적인 형태인 '챗봇'은 접근성이 무척 떨어집니다. AI가 잘하는 일을 대부분 비활성화하고, 사용자가 묻는 말에만 답하는 셈입니다.
예를 들어, AI는 사용자가 열쇠를 챙기지 않은 것을 감지하고 사전에 이를 알려줄 수 있습니다. 또, 퇴근 중인 사용자에게 저녁 식사를 위해 재료를 사 오라고 미리 알려줄 수도 있습니다. 그러나 현재의 AI는 이런 활동이 불가능합니다. 웨어러블도 휴대폰을 안 꺼내고도 챗봇을 사용할 수 있는 '핸즈프리'에 불과합니다.
그래서 메타는 올해 초 스마트 안경에 착용자가 하루 종일 겪은 일을 모두 기억하는 '슈퍼 센싱(super sensing)'이라는 기능을 검토한 것으로 알려졌습니다. 하지만, 이를 도입하겠다는 발표는 나오지 않았습니다.
오픈AI의 하드웨어는 아직 세부적인 사항이 알려지지는 않았지만, 카메라와 마이크가 탑재돼 사용자의 환경을 파악하는 것으로 전해졌습니다. 이 장치도 활용도를 최대한 끌어 올리려면 24시간 작동하는 것이 맞습니다만, 그럴 가능성은 작어 보입니다.
물론 사용자 정보 수집 문제는 어제오늘의 일은 아닙니다. 휴대폰이 대화를 엿듣거나 위치 정보를 파악, 광고 등에 활용했다는 이야기는 끊이지 않고 있습니다.
그리고 AI 음성 비서의 본격화에 따라, 이 문제는 더 부각될 것으로 보입니다. AI를 잘 활용하려면 정보 수집이 필수이지만, 이는 반발을 불러일으킬 수 있기 때문입니다.
마크 저커버그 메타 CEO와 샘 알트먼 오픈AI CEO는 나란히 "개인에게도 초지능을 안겨 주는 것이 목적"이라며, 장치의 중요성을 강조한 바 있습니다. 그러나 AI가 사용자를 완벽하게 이해하려면, 또 하나의 벽을 넘어야 할 것으로 보입니다.
이어 주말 주요 뉴스입니다.
■ 조용원 와들 COO “소통·데이터로 챗봇에서 '커머스 에이전트'로 진화”
미국으로 확장한 와들이 현장 경험을 통해 AI 챗봇을 넘는 커머스 에이전트로 진화 중이라고 밝혔습니다. 단순히 사용자 질문에 답하는 것을 넘어, 매출 증가에 도움이 되는 기술에 집중한다는 설명입니다. '데이터'와 '현장 커뮤니케이션'이 핵심이라고 합니다.
■ 장령우 코어라인소프트 리드 "의료 AI, 기술만큼 커뮤니케이션 중요"
의료 AI의 핵심이 병리 탐지를 넘어, 의료 전 과정을 통합하는 솔루션이라고 강조했습니다. 현장의 실제 적용을 위해서는 의료진과의 커뮤니케이션을 통해 워크플로우에 맞는 솔루션 개발이 필요하다는 것입니다.
■ 젠슨 황 "강력한 AI 수요로 TSMC에 칩 공급 추가 요청"
지난주 기술주 하락을 의식한 듯, 젠슨 황이 TSMC에 첨단 칩 생산 추가를 요청했다고 밝혔습니다. AI 수요가 여전히 폭발적이라는 것을 강조한 것입니다. 이번 주에는 기술주가 반등할지 주목됩니다.
AI타임스 news@aitimes.com
