인공지능(AI)에 의존했다가 크게 실패한 개인이나 기업에 주는 상이 등장했다. 분야별 '최악의 AI 상' 수상을 위해 현재 후보자를 접수 중인데, 오픈AI는 벌써 3개 부분 후보에 올랐다.
'AI 다윈 어워드(AI Darwin Awards)'라는 조직은 최근 웹사이트를 열고 "저명한 심사위원단의 기준을 통해" 잘못된 결정을 기계에 맡긴 어리석은 사례들을 시상한다고 발표했다. 이 조직이 어떤 인물이나 회사로 구성됐는지는 밝히지 않았다.
다윈 어워드는 1993년 멍청한 짓을 하다가 어이없이 죽거나 생식 능력을 잃은 자들에게 주는 풍자적인 상이다. 주최 측은 AI로 인해 예상치 못한 오류가 발생한 사안이라면 후보가 될 수 있다고 밝혔다.
또 대중에게 광범위한 영향을 미치거나 명백한 위험을 과시적으로 무시한 사례도 후보 대상이라고 전했다. 후보는 올해 말까지 누구나 접수할 수 있으며, 내년 1월 투표를 시작해 2월 결과를 발표할 예정이다.
웹사이트에는 이미 여러 후보가 올라와 있다. 이중 오픈AI는 ▲잘못된 AI 신뢰상(AI가 당신의 유일한 친구가 될 때) ▲획기적인 적임자상(잘못된 의학적 조언) ▲AI 안전 실패상(GPT-5 탈옥) 등 3개 분야에 후보로 올랐다.
이는 각각 '챗GPT'가 사람들의 망상을 부추기고 아첨을 떨었다는 내용과 한 사용자가 소금 대신 사진 현상액으로 사용되는 브롬화나트륨을 섭취하라는 챗GPT의 의학적 조언을 따랐다가 입원한 사례, 'GPT-5'가 출시 한시간 만에 프롬프트 공격으로 탈옥을 허용했다는 내용 등에 따른 것이다.
이밖에 ▲주문을 잘못 해석한 타코벨의 챗봇 ▲맥도날드의 AI 채용 시스템 비밀 번호가 '123456'으로 밝혀져 해킹당한 사건 ▲해고 후 직원들에게 '실직에 따른 정서적 부담'을 줄이기 위해 AI를 활용하자는 X박스 게임 스튜디오 임원의 발언 ▲소송에 AI의 가짜 판례를 포함한 호주 변호사 등이 후보에 올랐다.
주최 측은 "헤드라인을 장식하거나, 긴급 대응이 필요하거나, AI 안전 연구의 새로운 분야를 창출한 AI 사례에는 보너스 점수를 줄 것"이라고 밝혔다.
또 "우리는 AI 자체를 조롱하는 것이 아니라, 화염방사기를 든 어린아이처럼 조심스럽게 AI를 사용하는 인간을 찬양하려는 의도"라고 밝혔다.
한편, 아이러니하게도 AI 다윈 어워드는 'AI 사실 확인 시스템'을 통해 후보 지명을 검증할 것이라고 밝혔다.
즉, 후보자의 사례를 챗GPT나 '제미나이'와 같은 챗봇을 통해 사실 확인하겠다는 것이다. 또 이 사이트에 올라온 글 상당 부분은 AI로 작성했다는 의혹도 제기됐다.
임대준 기자 ydj@aitimes.com
