샘 알트먼 오픈AI CEO가 최근 인터뷰에서 챗GPT의 윤리적·도덕적 문제와 관련한 고민을 솔직하게 털어놨다. "편하게 잠을 이루지 못한다"라는 말까지 나왔다.
알트먼 CEO는 최근 폭스 뉴스 전 진행자 터커 칼슨과의 팟캐스트에서 “매일 수억명이 우리 모델과 대화한다는 사실이 가장 무겁게 다가온다”라며 “큰 도덕적 결정이 아니라 작은 결정들이 더 많은 불면의 원인이 된다”라고 밝혔다.
그 예로 소송을 당했던 자살 관련 챗GPT 문제를 꼽았다. 그는 “매주 수천명이 자살하는데, 그들 중 일부는 챗GPT와 이야기를 나눴을 가능성이 있다”라며 “우리가 더 나은 대답을 했더라면, 혹은 더 적극적으로 도움을 권유했더라면 생명을 구할 수도 있지 않았을까 하는 생각이 든다”라고 말했다.
이는 지난달 자살한 16세 소년의 부모가 챗GPT가 자살 방법 탐색을 도왔다며 오픈AI를 상대로 소송을 제기한 사건을 말한다. 이후 오픈AI는 위기 상황 대응 강화와 기술 보완 계획을 내놓았다.
알트먼 CEO는 챗GPT의 학습 기반을 “인류의 집단적 지식과 경험”으로 설명하면서도, 특정 질문에 답하지 않도록 제한을 두고 있다고 밝혔다. 생물학적 무기 제조 방법처럼 사회적 위험이 큰 질문은 차단된다는 것이다.
“우리는 수백명의 윤리학자와 철학자들에게 조언을 구했다”라며 “사회적 이익과 개인 자유가 충돌하는 사례가 많지만, 모든 결정을 완벽하게 내릴 수는 없고 세계 각국의 의견이 필요하다”라고 강조했다.
AI의 군사적 사용 여부에 대한 질문에는 직접적인 답을 피했다. “군 내부에서 챗GPT를 활용하는 사례가 있을 것으로 본다”라며 “그에 대해 어떻게 느껴야 할지 모르겠다”라고 말했다.
또 챗GPT를 '종교'에 비유하며 오픈AI의 권력이 커질 수 있다고 지적하자, “과거에는 권력 집중을 문제로 생각했지만, 이제는 AI로 더 많은 사람에게 역량을 부여한다는 점에 집중하고 있다”라고 답했다.
이어 “많은 이들이 챗봇을 활용해 더 많은 일을 하고, 새로운 지식을 창출하며, 새로운 사업을 시작하고 있다”라며 긍정적인 효과를 강조했지만, “단기적으로는 많은 일자리가 사라질 것”이라고도 경고했다.
한편, 칼슨은 이날 알트먼 CEO가 전 직원의 자살에 개입했는지를 추궁하는 발언으로 앞서 화제가 됐다.
박찬 기자 cpark@aitimes.com
