딥 페이크, 신기술의 빛과 그림자
상태바
딥 페이크, 신기술의 빛과 그림자
  • 입력 2020-02-04 18:40
  • 댓글 0
이 기사를 공유합니다

▲딥페이크 이미지(사진=셔터스톡)©AI타임스
▲딥페이크 이미지(사진=셔터스톡)©AI타임스

(AI타임스=윤광제 기자) 2개의 인공지능(AI)을 경쟁시켜 완성도 높은 화상 데이터를 만드는 '적대적 생성 네트워크(GAN)' 기술이 주목받고 있다. 이를 실용화하려는 움직임도 빨라진다.

다만 진짜와 가짜를 구별할 수 없는 생성 기술이라 가짜 동영상에 악용될 수 있다는 우려도 나온다. 기술이 진보하면서 '진짜'와 '가짜'를 구분하기가 점점 힘들어지고 있다.

◆ AI는 누구인가?
골프용품 업체 '혼마 골프' 홈페이지에 'Who am AI?'라는 문구가 있다. 클릭하면 가을, 겨울의 최신 디자인 약 50종을 소화하는 모델이 차례로 등장한다. 모두 세상에 존재하지 않는 가공의 인물이다. AI가 눈, 코, 입을 조금씩 바꾸면서 컴퓨터그래픽(CG)으로 생산한다.

이 사이트에서 이같은 모델 화상을 다룬 것이 지난 2017년부터다. 교토대 AI벤처 기업 데이터 그리드는 최신 GAN 기술로 1만명에 이르는 가상의 모델을 만들었다.

GAN 시스템은 그리 복잡하지 않다. 발전기로 불리는 AI가 진짜 화상을 만들면, 디스크리미네이터(식별장치)라는 다른 AI가 그 화상과 실제 화상을 비교해 진위를 판단한다. 가짜로 판단하면 발전기가 원인을 분석해 새로운 화상을 생성한다. 2개의 AI가 이런 방식으로 이미지를 갈고 닦아 누가 봐도 부자연스럽게 느껴지지 않을 정도로 실물에 가까운 화상을 만들어 낸다.

오카다 유타카 데이터 그리드 사장은 "회사는 GAN을 사용해 1초에 1장의 얼굴 이미지를 만들고 있다"면서 "당초 이미지와 비교해 위화감 없이 완성도가 높다"고 자신감을 내비쳤다.

◆ 기술 악용 우려
실존하지 않는 데이터를 양산할 수 있는 GAN은 AI 개발에 반드시 필요한 대량의 학습용 데이터를 보충하는 기술로 기대된다.

물론 산업관계자들은 악용 사례가 두드러져 진짜와 구별이 어려울 정도로 교묘한 가짜 동영상인 '딥 페이크'에 우려를 표하고 있다.

딥 페이크는 '딥러닝'과 '페이크'의 합성어다. 대상이 되는 인물의 얼굴 특징이나 입의 움직임 등을 학습한 AI가 동영상을 이용해 위화감을 느끼지 않을 정도의 ‘가짜’ 동영상을 만들어 낸다.

실제로 지난해 6월 페이스북의 최고 경영자(CEO)인 마크 저커버그의 가짜 영상이 눈길을 끌었다. 올해 11월 대선을 앞두고 미국에서는 딥 페이크를 활용한 악질적인 페이크 뉴스가 확산되면서 민주주의를 위협하는 것 아니냐는 지적도 나오고 있다.

페이크 동영상에 대항하는 기술 도입도 진행되고 있다. 일본 국립정보학연구소의 야마기시 준이치 교수 연구진이 개발한 AI는 가짜 동영상에 나타나는 특징을 학습해 90% 정도의 정밀도로 실제 영상과 딥 페이크로 만들어진 가짜 동영상을 구분할 수 있다.

야마기시 교수는 "현 시점에서는 알아차리는 게 이익"이라면서도 "앞으로도 페이크 동영상과 검출 기술의 악순환은 계속될 것"이라고 지적했다. 그는 이어 "동영상도 고쳐서 악용될 수 있음을 사회에 알리고 보는 사람들의 능력을 향상 시키는 것도 중요하다"고 덧붙였다.

윤광제 기자
윤광제 기자 captainyun@naver.com 다른기사 보기
기자 프로필
윤광제 기자
윤광제 기자 captainyun@naver.com 다른기사 보기

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사
유용한 리스티클
  • AI를 활용한 10가지 좋은 예
  • MIT 테크리뷰가 선정한 젊은 AI혁신가 7인
  • 포스트코로나 이끌 AI 스타트업 'TOP 10'
  • 주목할 중국·일본 로봇 스타트업 '베스트 10'
  • 포브스 선정 유망 AI기업 베스트 50
  • 코로나19와 싸우는 테크기업 '베스트 15'