최근 '챗GPT'로 가짜 영수증 사진을 생성했다는 사실이 화제가 됐다. 특히, 음식이나 음료 얼룩을 추가하거나 구겨진 효과를 넣어 실제 영수증과 거의 구별이 어려운 수준으로, 범죄에 활용될 수 있다는 우려도 나왔다.
AI 생성 이미지는 최근 국내에서도 문제를 일으킨 바 있다. SNS에서는 ‘러브버그 학살’을 멈춰 달라는 동물보호 운동가의 인터뷰 사진이 떠돌아다니며 부정적인 여론을 형성했다. 이는 진짜가 아닌 AI 생성 이미지인 것으로 밝혀졌다.
이에 대해 이정수 딥브레인AI 이사는 "챗GPT로 이미지를 쉽게 생성할 수 있게 되면서, 대중들의 ‘기술 장벽’이 낮아지고 있다”라며 “영수증을 조작하거나 일반 음식 사진에 벌레를 합성시키는 등 악용 가능성이 늘어날 수밖에 없다”라고 말했다.
딥브레인AI(대표 장세영)는 이미 지난해 11월 딥페이크 탐지 솔루션을 출시한 바 있다. 이는 경찰청 등 공공 기관과 협업을 진행했던 것을 민간에서도 사용할 수 있도록 확장한 버전이다.
특히, 챗GPT 등으로 인해 최근 이미지 생성이 점점 정교해짐에 따라 대응 기술을 계속 고도화 중이라고 밝혔다. 유명인 등 '인물 딥페이크'에 초점을 맞췄던 초기 단계를 지나, 이제는 영역을 확장하고 있다고 전했다.
영수증과 같이 텍스트가 포함된 이미지는 AI 생성 이미지와 실제 이미지의 판별이 어려울 정도로 정밀도가 높은 편이라고 설명했다. 이에 AI 이미지 판별 모델에 실제 데이터와 페이크 데이터를 지속적으로 학습, 성능을 높이고 있다.
또 이 이사는 "아무리 정교한 이미지라도 허점은 존재한다"라고 지적했다. 이는 인공지능(AI)의 환각 현상 때문이다.
영수증의 경우, 가격 합계가 엉터리로 출력되는 등 디테일한 부분에서 문제가 생긴다는 설명이다. 따라서 이를 악용하려면 정교한 편집 과정이 필요하다는 것이다. 딥브레인AI는 이 점에 집중, 가짜 영수증 판별 기술을 준비 중이라고 전했다.
이정수 딥브레인AI 이사는 “만약 여권 사진 등도 조작할 수 있다면, 심각한 문제를 초래할 것”이라며 “일반 이미지까지 AI 생성 여부를 판별할 수 있도록 기술을 고도화 중”이라고 말했다.
장세민 기자 semim99@aitimes.com
