화상회의 플랫폼 줌이 고객 데이터로 자사의 생성 인공지능(AI)을 훈련할 수 있도록 서비스 약관을 개정해 논란이 일고 있다. 새 약관에 따라 줌은 AI와 머신러닝(ML) 모델 학습, 미세조정에 고객 데이터를 활용할 수 있지만, 가입자는 자신의 데이터 활용을 사실상 거부할 수 없기 때문이다.
7일(현지시간) CNBC에 따르면 줌은 지난달 27일자로 AI나 ML 모델 학습과 미세조정에 고객 데이터 일부를 활용할 수 있다는 조항을 추가해 서비스 약관을 개정했다.
개정한 약관에는 “귀하는 AI 또는 MS 학습 및 미세조정 목적을 포함하여 해당 법률에서 허용하는 범위와 방식으로 서비스 생성 데이터에 대한 줌의 액세스, 사용, 수집, 생성, 수정, 배포, 처리, 공유, 유지 관리 및 저장에 동의한다”고 쓰여 있다.
줌이 AI나 머신러닝(ML) 모델 학습과 미세조정에 고객 데이터 일부를 활용할 수 있다는 것이다.
서비스 생성 데이터는 고객 정보, 원격 측정 및 진단 데이터, 회사에서 수집한 유사 콘텐츠나 데이터 등을 포함한다.
줌은 고객 동의 없이 모델 학습을 위해 오디오, 비디오, 채팅 콘텐츠를 사용하지 않는다고 밝혔다. 하지만 주목해야 할 핵심 문구는 ‘고객 동의 없이’다.
지난 6월 줌은 회의 요약, 채팅 메시지 작성 등 생성 AI 기능을 도입했다. 다만 사용자가 AI 기능을 활성화하려면 줌이 개별 고객 콘텐츠를 사용해 AI 모델을 훈련할 수 있다는 동의서를 수락해야만 하는 구조다.
사용자가 AI 기능을 사용하기 위해서는 서비스 생성 데이터에 대한 소유권과 이권을 줌에 양도하는데 동의해야 한다는 의미다. 이는 거부할 수 없다.
문제는 고객 입장에서 이러한 내용을 꼼꼼히 살펴보지 않고는 인지하기 어렵다는 데 있다. 개정된 약관은 이미 효력이 발동, 일부 줌 사용자의 음성과 얼굴이 나온 화면이 AI 학습에 활용이 가능한 상태다.
이러한 사실이 알려지면서 사용자의 개인 데이터를 활용함으로써 AI의 사생활 침해가 이뤄질 수 있다는 논란이 일고 있다.
이에 대해 줌은 "고객의 콘텐츠는 AI 서비스의 성능과 정확성 향상을 위해서만 사용된다"며 "새로운 생성 AI 서비스 활성화를 위해 고객 콘텐츠 사용을 허용하는 것은 고객의 선택사항"이라고 설명했다.
다시 말해 새로운 서비스를 사용하려는 고객이 직접 ‘동의’ 여부를 선택한 것이라 문제될 것이 없다는 입장이다.
박찬 기자 cpark@aitimes.com
