영국의 개인 정보 보호 단체인 ICO(Information Commissioner's Office)는 영국 기업들에게 직원의 감정 분석을 제공한다고 주장하는 ‘미성숙한’ 생체 인식 기술에 의존해서는 안 되며 그러한 기술이 일부 사람들을 차별할 수 있다고 경고했다.
감정 인식 또는 감정 분석 기술은 개인의 심박수, 눈 움직임, 표정, 피부 수분, 보행 추적, 목소리 톤 또는 기타 신체적 특징을 스캔한 생체 데이터를 해석해 정신 상태를 추론하거나 누군가의 느낌을 예측하는 AI 기반 기술을 말한다.
ICO는 감정을 이해하기 위해 무의식적인 행동이나 감정적 반응에 집중할 수 있는 개인 데이터를 수집하는 과정이 개인의 신원을 확인하는 데 사용되는 기존의 생체 인식 기술보다 훨씬 위험하다고 말했다.
감정적 신호를 감지할 만큼 충분히 개발되지 않은 이러한 시스템에 사용되는 알고리즘은 편견을 보이거나 일부 사람들을 차별할 수 있다고 말했다.
또 규제 기관은 조직에 이러한 기술을 사용하기 전에 공공 위험을 평가할 것을 촉구했으며 책임감 있게 행동하지 않거나 취약한 사람들에게 위험을 초래하거나 ICO 기대치를 충족하지 못하는 회사는 조사를 받게 될 것이라고 경고했다.
스테판 보너 ICO 부국장은 “감정 인식 AI 시장의 발전은 미숙하다. 아직 또는 앞으로 제대로 작동하지 않을 수 있다”며 “앞으로 기회는 있겠지만 현재의 위험이 더 크다”고 덧붙였다.
ICO는 데이터의 부정확한 분석이 사람에 대한 정확하지 않은 가정과 판단을 낳고 차별을 초래할 수 있다는 점을 우려했다. 또 감정 인식이 사용되기 위해서는 완벽하게 기능하고 책임이 있으며 과학의 뒷받침이 전제되어야 한다고 강조했다.
ICO는 2023년 초에 기업의 생체 인식 기술 사용에 대한 지침을 발표할 것이라고 밝혔다. 감정 인식 AI를 지침이 해결해야 할 4가지 문제 중 하나로 지정했다. 나머지는 생체 인식 사용, 사람 분류를 위한 생체 인식 사용, 생체 인식 데이터의 광범위한 수집으로 인해 발생하는 데이터 보호 규정 준수 문제에 대한 추가 지침이다.
박찬 위원 cpark@aitimes.com
