딥페이크는 장점이 많은 AI 기술이다. 하지만 이 기술도 '양날의 검'처럼 사용자에 따라 도구로써 요리를 할 수도, 사람을 해칠 수도 있다.
이번 컨퍼런스에서는 딥페이크로 발생할 수 있는 이러한 윤리 문제에 대해 다양한 논의가 이뤄졌다.
AI EXPO BUSAN 2021(인공지능 엑스포 부산)이 부산 벡스코 제 2전시장에서 9월 1일부터 3일까지 개최된다. 전시장에 방문하지 못한 사람을 위해 유튜브로도 현장 온라인 생중계를 진행한다.
컨퍼런스 중 하나인 제 2회 '인공지능 윤리 대전'도 같은 날 편향성, 딥페이크, 자율주행, 메타버스 등 4가지 세션으로 나눠 진행된다.
2일 오후 세션에서 '딥페이크'와 관련된 주제로 조나단 쉐퍼 교수 등 4명의 전문가들이 심층적으로 논의했다.
조나단 쉐퍼(Jonathan Schaeffer) 캐나다 알버타대학 교수는 "중국이 지난 10년간 인상적인 진전을 이뤘다며 2030년까지 AI 글로벌 리더가 될 것이라 주장했다. 또 미국은 AI R&D 분야에서 미국의 지속적인 리더십을 보장하길 원하고, 러시아도 AI 리더가 세계를 지배할 것이라고 전망하고 있다"고 말했다.
조나단 쉐퍼 교수는 “한국도 AI에 관한 전략을 처음 내세운 국가중 하나였다, 당시 AI 연구 개발에 중점을 뒀던 독특한 국가였다”고 소개했다.
하지만 “이처럼 AI가 전세계에 공개적으로 확산되고 있지만 불행히도 국가적 이익에만 집중해 함께 가치를 추구하는데에는 협조적이지 않다”고 꼬집었다.
구글 검색시 유럽 연합(EU)의 GDPR와 AI 규제 초안 표준을 포함, 세계 각 국에서 수십가지 윤리 기준들이 제기되고 있다.
그는 “이제 AI의 윤리적인 기준을 정하는 데만 그치지 말고 이를 이행하는 것을 시작해야 한다”며, 이를 국가적 의제뿐 아니라 글로벌 마인드로도 다룰 것을 당부했다.
또, “나중에 더 큰 문제가 되기 전에 '사전 예방 차원'으로 지금 직면한 AI 문제들을 수정하도록 대처해야 한다”고 덧붙였다.
양날의 검이 된 딥페이크 기술
이어 심지원 동국대 철학과 교수는 '딥페이크, 양날의 검인가'라는 주제로 '디지털 성 범죄'에 대해 발표했다.
심교수는 '양날의 검'을 기술의 전형적인 특징이라고 소개하며, 페이스북의 2가지 사례를 들어 설명했다.
페이스북에 있는 '좋아요' 버튼. 이 버튼을 만든 취지는 사실 "많은 사람들이 더 기뻐하고 행복했음 좋겠다"였다.
하지만 이로 인해 청소년 다수가 좋아요 수를 많이 받지 못했을 때 우울해하고, 그것을 받기 위해 애쓰는 양상이 발생했다.
또, 페이스북은 아이슬란드어나 몰타어 등 일부 언어는 지원하지 않고 있다. 때문에 많은 학생들이 자연스럽게 영어에만 노출되는 환경이 조성되며, 디지털 멸종언어가 형성되고 있다.
온라인 유포 가짜 합성 영상 가운데 96%가 불법 음란 영상물이고, 영상 속 피해자의 약 25%가 K팝 여성 아이돌이다.
심 교수는 디지털 성 범죄의 문제점에 대해 "가해자가 한명이 아니라는 것"을 지적했다. 영상 제작자, 유포자, 시청자 등으로 집단화되면서 죄책감을 낮추는 효과가 있고, 이를 은폐하고, 들키기 어려운 것으로 자리잡았다고 설명했다.
또, 디지털 성 범죄의 피해자는 자기가 피해를 받고 있으며, 어떤 문제가 발생하고 있는지 모를 수 있다는 점도 꼬집었다.
딥페이크 영상과 관련해 피해자가 제작, 촬영, 유포에 동의했는지, 어디까지 동의했는지에 대한 범위도 고려해야 한다고 말했다.
또 그는 이런 AI 윤리 문제는 사실, 기술 자체의 문제는 아니기 때문에 인간이 할 수 있고, 해결해야 할 일에 대한 책임을 기계에게 돌리는 것은 아닌지 생각해봐야 한다고 주장했다.
세번째 연사인 손정수 CJ올리브네트웍스 AI코어연구소장은 딥페이크가 가진 장점을 먼저 설명하며, AI 윤리 문제에 대해 고민하게 된 계기를 밝혔다.
CJ올리브네트웍스는 거북이 ‘터틀맨’ 무대와 불꽃미남(2021), 나빌레라(2021) 등에서 페이스 에디팅(Face Editing) 기술로 대역의 안무를 학습시키고, 거기에 연예인 얼굴을 합성시킨 딥페이크 영상을 제작한 바 있다.
오브젝트 이레이징(OBJECT ERASING) 기술은 방송에 나오는 브랜드 로고나 영상에 노출된 카메라를 제거하는 것이 단 10분만에 가능해 비용과 시간 절감에 효과적이라 전했다.
정신대 할머니 복원해 전시관에서 관람객과 대화하게 하는 것, 3.1절 기념 독립운동가 유관순 복원하는 등 돌아가신 분들을 되살리는것이 꼭 나쁜 것만은 아니라 생각한다고 주장했다.
다만, 자살해서 돌아간 연예인 영상으로 복원하는 것은 거절한 적 있다고 말했다.소속사에서 모든 권리를 가지고 있고, 팬들과 가족들도 원하고, 동의했지만 결국 거절하게 됐다고 밝혔다.
그 이후, 돌아가신 분들을 되살리는 것은 가급적으로 하고 있지 않다고 공개하며, 어떤 기준으로 어떻게 만들 것인지에 대한 법적, 윤리적 제도의 확립이 먼저 필요한 시점이라고 생각한다고 답변했다.
이 내용과 관련해 사회자는 ‘잊혀질 권리’를 떠올리게 된다며, "사실 이건 과거로 타임머신하고픈 사람들의 욕망이 만들어낸 것이 아닐까"하는 생각도 하게 된다고 덧붙였다.
끝으로 조나단 쉘퍼 교수는 많은 사람들이 AI가 자신의 삶에 어떤 영향을 미칠지에 대해 걱정한다고 말했다. 그는 AI와 인간이 협력시 최종 결정권자인 사람에게 고려할 만한 정보와 조언을 제공하는 조력자로서만 AI를 사용할 것을 주문했다.
이로써 AI에 의한 통제에 대해 사람들이 가진 우려가 많이 줄어들 수 있을 것이라고 덧붙였다.
AI타임스 이하나 기자 22hnxa@aitimes.com
