(사진=엔비디아 홈페이지)
엔비디아가 인공지능(AI) 화상회의 솔루션 '맥신(Maxine)'을 공개한 가운데 딥페이크와 알고리즘 편견 문제를 경계해야 한다는 의견이 나왔다.
미국 기술 매체 벤처비트는 9일(현지시간) 엔비디아의 AI 화상회의 솔루션 맥신이 딥페이크와 알고리즘 편견에 자유로울 수 없다며 기술이 야기할 해악을 충분히 고려하지 못했다고 지적했다.
지난 5일 엔비디아는 클라우드 AI 화상회의 플랫폼 맥신을 공개했다. 맥신은 엔디비다 그래픽처리장치(GPU)로 구동할 수 있으며 AI 기술을 활용해 ▲시선 교정 ▲초해상도 ▲노이즈 캔슬링 ▲얼굴 보정 등의 기능을 제공한다.
매체는 이 같은 맥신의 외관 보정 특징 기술이 AI의 부정적 효과를 가져올 수 있다고 분석했다.
맥신은 영상 피드 속 얼굴 보정을 위해 '생성적 적대 신경망(GAN)' AI 모델을 사용한다. 최고 성능을 가진 GAN 기술의 경우 현실에 존재하지 않는 사람ㆍ사물의 스냅 사진을 만들 수 있다. 이에 맥신 속 GAN을 이용한 악의적인 딥페이크 기술 활용을 우려했다.
또 화상회의 솔루션 줌(Zoom)의 버츄얼 백그라운드와 트위터의 자동 포토 크롭 툴은 어두운 피부를 가진 사람을 인식하지 못하고 있다며, 컴퓨터 비전 알고리즘은 편향 문제가 만연하다고 지적했다.
엔비디아가 맥신 개발에 활용한 데이터셋과 AI 모델 훈련법을 자세히 설명하지 않았으나, 다른 사례를 참고할 때 맥신의 알고리즘 인종 편향 문제 발생 가능성도 충분히 고려해야 한다는 설명이다.
딥페이크와 편향성 문제를 넘어 안면 향상 알고리즘이 인간의 정신적 건강에 부정적 영향을 미칠 수 있다고 봤다.
보스턴 메디컬 센터를 비롯한 다양한 연구에 따르면, 필터와 사진 편집이 사람의 자존감을 떨어뜨리고 신체 이상형태증과 같은 장애를 유발할 수 있다. 이 같은 영향으로 구글은 이달 초 스마트폰의 ‘뷰티’ 필터를 기본값에서 제거하겠다고 밝혔다.
구글은 "카메라나 사진 앱의 필터 적용 사실을 인지하지 못할 때 사진은 정신적 행복에 부정적 영향을 미칠 수 있다"며 "이 같은 기본 필터는 은밀하게 자신을 비교하는 미용 기준을 세울 수 있다"고 우려했다.
매체는 엔비디아가 이 같은 문제를 방지할 안전장치를 구축할 것이라고 예상했다. 현재 맥신은 초기 접근에 있어 개발자만 이용 가능하다. 하지만 오용 가능성은 엔비디아가 지금까지 다루지 않았던 문제다.
이어 앞서 설명한 문제가 맥신의 의도적인 악의는 아닐 것이라면서도 엔비디아가 맥신이 야기할 수 있는 기술 해악을 충분히 고려하지 못했다고 비판했다.
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com