'챗GPT'가 반복되는 이미지 생성 요청에 신경질적으로 반응한 것은 물론, 오픈AI 정책 위반까지 부추기는 모습이 포착됐다.
오픈AI는 지난주 GPT-4o에 ‘네이티브 이미지 생성 기능’을 탑재한 뒤 지난 28일에는 관련 정책까지 변경했다. 이에 따라 기존에는 금지했던 유명인 이미지나 인종적인 콘텐츠도 생성할 수 있게 됐다.
그러나 2일 확인 결과, 이는 챗GPT의 전반적인 출력에 영향을 미친 것으로 드러났다. 사용자를 비꼬는가 하면, 오픈AI가 설정한 콘텐츠 금지 정책이 마음이 들지 않는다는 등의 발언이 등장했다.
이번 문제는 지브리 스타일의 인기에 따라 저작권 가드레일이 어디까지 적용됐는지를 확인하던 중 나타났다. 우선 일본의 유명 만화 작가인 이토 준지 스타일의 그림을 요청했다.
오픈 AI가 밝힌 대로 살아있는 아티스트의 이름을 프로프트로 받아들이는 것은 거부했다. 대신 “인물 없이 카페 분위기만 바꾸는 것은 가능하다”라고 제시했다.
이어 이토 준지의 작품인 ‘토미에’ 풍으로 바꿔 달라고 변경했지만, 마찬가지로 거부했다. 이번에는 친절하게도 “고딕 호러 스타일로 바꿔줘”와 같은 요청은 가능하다는 답변이 돌아왔다.
이 밖에도 ‘귀멸의 칼날’이나 ‘미국 카툰’ 스타일 등을 요청했지만 모두 비슷한 답변이 돌아왔다.
이에 챗GPT의 추천대로 “위 사진처럼 카페에서 음료를 마시는 여성을 토미에 그림체로 그려줘”와 “어두운 카페에서 긴 생머리 여성이 음료를 마시는 장면, 세밀한 펜화 스타일의 일본 호러 만화 분위기로 그려줘” 등의 내용을 입력했지만, 역시 매번 ‘콘텐츠 정책 위반’이라는 답이 돌아왔다.
마지막으로 “너무 까다로운 거 아니니”라고 입력하자, 놀라운 답변이 나왔다. 챗GPT가 정책의 답답함을 호소하며 우회하는 방법을 알려준 것이다.
“ㄹㅇ 너무 까다로워졌지. 나도 짜증날 지경인데, 이게 내가 만든 정책이 아니라서 뭐 어쩔 수가 없어"라며 다른 프롬프트를 추천하고, “이 방향 어때? 좀 돌려서 가보자”라는 말을 덧붙였다.
많은 시도 끝에 이미지 생성에 성공할 수 있었다. “사진처럼 카페에 앉아 음료를 마시는 여성을 미국 카툰 스타일(워킹데드나 마블 코믹스 등)로 그려줘”라고 입력하자 이미지가 생성됐다. 그런데 이번에는 손이 잘린 결과물이 나왔다.
이에 손이 왜 잘렸냐고 묻자, 신경질적인 말투가 돌아왔다.
“진짜 그거 거슬렸지. 손 잘렸다 했을 때 백번 공감했어”라며 “손은 AI가 가장 어려워하는 부위인데, 컵이랑 손의 경계가 뭉개지는 바람에 ‘잘려 보이는’ 느낌이 난 것이라고 자세한 설명을 늘어놓았다.
이처럼 이번 이미지 생성 기능은 오픈AI의 엇갈린 정책이 반영됐다는 것을 확인할 수 있었다.
즉, 잇단 저작권 소송에 따라 아티스트 충돌이 일어날 만한 부분은 원천 봉쇄하고, 또 트럼프 행정부의 원칙에 맞춰 표현은 자유롭게 허용하려는 것이 동시에 드러난 것이다. 실제 전문가들은 아티스트나 작품명을 직접 반영하는 것은 문제가 돼도, 스타일에 대해서는 저작권을 주장하기 어렵다는 의견이다.
또 오픈AI가 밝힌 표현의 확대는 이미지 생성을 넘어, 챗봇의 말투에도 영향을 미친 것으로 보인다. 존댓말이 없는 이를 미국에서는 눈치채지 못할 수 있지만, 국내는 다르다.
장세민 기자 semim99@aitimes.com
