(사진=셔터스톡)
(사진=셔터스톡)

오픈AI가 '챗GPT'에 성인용 콘텐츠를 도입한다고 밝히자, 인공지능(AI)의 표현 자유와 윤리적 경계에 대한 논쟁이 뜨거워지고 있다. 

샘 알트먼 오픈AI CEO는 15일(현지시간) X(트위터)를 통해 챗GPT에서 에로티카 등 일부 콘텐츠 제한을 완화하기로 한 결정을 둘러싼 논란에 대해 “오픈AI는 세계의 도덕 경찰로 선출된 것이 아니다(we’re not the elected moral police of the world)”라고 밝혔다.

그는 “오픈AI는 성인 이용자를 성인으로 대우해야 한다는 원칙을 매우 중요하게 생각한다”라며 “사회가 R등급 영화 등에서 적절한 경계를 구분하듯, 우리도 비슷한 접근을 하는 것”이라고 말했다.

또, “타인에게 피해를 주는 행위나 유해한 콘텐츠는 여전히 허용하지 않을 것”이라고 덧붙였다.

이번 논란은 그가 전날 “이제는 새로운 안전 도구를 통해 대부분의 제한을 안전하게 완화할 수 있다”라며 “12월부터는 검증된 성인을 위한 에로티카와 같은 더 많은 콘텐츠를 허용할 예정”이라고 밝히며 시작됐다.

이 글은 6200개가 넘는 댓글이 달리는 등 뜨거운 찬반 토론이 쳐졌다.

또, 미국의 비영리단체 전국성착취반대센터(NCOSE)는 성명을 내고 오픈AI에 결정 철회를 촉구했다. 헬리 맥나마라 전무는 “성적 AI 챗봇은 본질적으로 위험하며, 가짜 친밀감으로 인한 정신건강 피해를 유발할 수 있다”라며 “업계의 안전 기준이 불분명한 상황에서 이번 조치는 무책임하다”라고 비판했다. 

알트먼 CEO는 지난해 12월부터 꾸준히 성인용 버전이 필요하다는 주장을 내놓았다.

그러나, 지난 8월에는 팟캐스트를 통해 상반된 입장을 내놓은 바 있다. 그는 “챗GPT에 ‘성적 대화형 아바타’ 같은 기능을 추가하면 참여율과 매출이 급증하겠지만, 이는 장기적인 목표와 어긋난다”라며 “그런 유혹을 뿌리친 것이 자랑스럽다”라고 말했다. 이는 일론 머스크 CEO가 '그록'에 AI 컴패니언을 추가한 것을 비꼬려는 의도였다.  

이 때문에 일부 이용자와 전문가들은 “오픈AI가 원칙을 번복했다”라며 비판을 제기하고 있다.

알트먼 CEO도 “이번 발표가 예상보다 훨씬 큰 반향을 일으켰다”라고 인정했다.

박찬 기자 cpark@aitimes.com

키워드
#오픈AI #챗GPT #콘텐츠 제한 정책 #완화 #에로티카 #샘 알트먼 #인공지능 #AI
저작권자 © AI타임스 무단전재 및 재배포, AI학습 및 활용 금지