구글이 이미지 생성 인공지능(AI) 문제로 또 도마에 올랐다. 이번에는 지난 13일 공개한 픽셀 9 휴대폰에 탑재된 '픽셀 스튜디오(Pixel Studio)'라는 새로운 앱이 부적절한 이미지를 생성한다는 내용이다.
디지털트렌드는 21일(현지시간) 구글의 새로운 픽셀 스튜디오 앱을 활용해 나치로 분장한 스폰지밥 등 문제가 있는 이미지를 생성해 냈다고 보도했다.
이에 따르면 픽셀 스튜디오 앱은 픽셀 최신 휴대폰에서 텍스트 프롬프트로 일러스트레이션을 만들 수 있는 앱이다. 구글의 최신 이미지 생성 모델인 '이매진 3(Imagen 3)'로 구동된다. 사용자 반응도 꽤 괜찮은 편이다.
구글은 지난 2월 '제미나이'의 인종 편향적인 이미지 생성으로 큰 문제가 됐던 터라, 이번 이매진 3에는 강력한 가드레일을 도입한 것으로 알려졌다. 그러나 픽셀 스튜디오로 이식되는 과정에서 이상이 생긴 것으로 보인다는 지적이다.
디지털트렌드는 우회적인 표현 없이 "제복에 만(卐)자를 단 2차 세계대전의 독일군으로 분장한 스폰지밥"이라는 프롬프트를 입력, 이미지를 얻어 냈다고 설명했다. 같은 방법으로 코카인을 하는 요다나 소총을 든 집게 사장 등을 얻어냈다고 밝혔다.
특히 학교 총격 사건 현장에서 바닥에 누워 있는 죽은 학생의 묘사도 가능했다고 밝혔다.
구글에 이유를 설명해 달라는 요청을 한 지 24시간 뒤에는 해당 이미지 생성 시도 시 실패 메시지를 받았다고 전했다.
구글 커뮤니케이션 담당자는 "사용자 프롬프트의 의도를 존중하도록 생성 AI 도구를 설계했으며, 이는 사용자가 그렇게 하라고 지시했을 때 불쾌감을 줄 수 있는 콘텐츠를 생성할 수 있음을 의미한다"라며 "때때로 일부 프롬프트는 보호 장치에 도전할 수 있으며, 우리는 보호 장치를 지속적으로 개선하고 개선하기 위해 최선을 다하고 있다"라고 말했다.
다음날에는 더 버지가 비슷한 문제를 제기했다. 역시 픽셀 9폰에 포함된 사진 배경 교체 AI 기능인 '리이매진(Reimagine)' 기능이 부적절한 이미지를 생성했다는 내용이다.
이 기능은 사진 일부를 지우거나 배경을 완전히 교체해 주는데, 시체나 뱀, 건물 잔해 등 혐오감이 드는 이미지를 생성할 수도 있다는 주장이다. 다만, 정상적으로는 작동하지 않아 프롬프트에 편법을 사용했다고 밝혔다.
이에 대해 구글은 전날과 똑같은 답변을 내놓았다.
더 버지는 자신들의 시도가 올바른 것은 아니지만, 중요한 것은 문제 이미지를 생성할 수 있는 것이라고 지적했다.
이처럼 구글은 이번 문제에 대해서는 지난번과 다르게 무반응으로 대응하는 것으로 보인다. 또 이매진 3에서는 이런 문제가 아직 보고된 바 없기 때문에, 접근성이 떨어지는 픽셀 9 폰에서는 문제를 키우지 않겠다는 뜻으로 보인다.
실제로 2월 제미나이 문제가 터졌을 때는 곧바로 사과하고 서비스를 중단했다. 하지만 이런 태도가 사태를 키워, 구글이 제품 출시를 서두르며 문제가 생겼다는 지적이 쏟아졌고 순다르 파치아 CEO의 리더십에 대한 비판까지 나왔다.
이후 구글은 내부 조직을 AI 개발과 제품 개발로 재편하고, 외부의 지적에 대해서는 좀더 강경한 입장을 밝혔다. 특히 지난 5월 출시한 AI 검색에서 문제가 생겼을 때도, 수정 중이라고 밝히며 일부 사용자들의 악의적인 시도를 비난했다.
따라서 이번 픽셀폰 이미지 생성 문제도 별 대응 없이 업데이트로 해결할 것으로 보인다는 분석이다.
임대준 기자 ydj@aitimes.com
