오픈AI(OpenAI)는 DALL-E가 세계 인구의 다양성을 보다 정확하게 반영해서 사람들의 이미지를 생성할 수 있도록 새로운 기술을 구현하고 있다고 밝혔다. 이 기술은 ‘소방관’과 같이 인종이나 성별을 지정하지 않은 사람을 설명하는 프롬프트가 표시될 때 적용된다.
내부 평가에 따르면 DALL-E 이미지에 기술을 적용한 후에 다양한 배경을 가진 사람들이 포함되어 있다고 말할 가능성이 12배 증가했다. 시간이 지남에 따라 더 많은 데이터와 피드백을 수집하면서 이 기술은 더욱 개선될 것이다.
지난 4월에 제한된 사람들에게 DALL-E 2 연구에 대한 미리보기(preview)를 제공하면서 시스템의 기능과 한계를 잘 이해하게 되고 시스템을 더욱 안전하게 개선할 수 있었다. 이 미리보기 단계에서 초기 사용자는 이 새로운 개선을 알리고 평가하는 데 도움이 되는 민감하고 편향된 이미지에 플래그(flag)를 지정했다. 오픈AI는 DALL-E와 같은 AI 시스템이 학습 데이터의 편향을 어떻게 반영하는지 그리고 편향을 해결할 수 있는 방법은 무엇인지를 계속 연구하고 있다.
또한 오픈AI는 미리보기 기간에 DALL-E 2를 더욱 안전하게 개선하기 위한 여러 다른 조치를 취했다. 먼저 실제 존재하는 사람의 얼굴이 포함된 이미지 업로드를 거부함으로써 DALL-E가 유명인 및 저명한 정치인을 비롯한 공인의 초상을 만들거나 사기성 콘텐츠를 만드는데 오용될 위험을 최소화했다.
콘텐츠 필터를 보다 정확하게 만들어 콘텐츠 정책을 위반하는 프롬프트 및 이미지 업로드를 효과적으로 차단했다. 오용을 방지하기 위해 자동화 및 인적 모니터링 시스템을 개선하기도 했다.
이러한 개선을 통해 조만간 더 많은 사용자에게 DALL-E를 공개할 수 있을 것으로 기대한다. 액세스의 확장은 AI 시스템을 책임감 있게 배포하는 데 중요한 부분이다. 이를 통해 실제 내용에 대해 더 많이 배우고 안전 시스템을 계속 반복할 수 있기 때문이다.
AI타임스 박찬 위원 cpark@aitimes.com
