해외 과학 저널에 인공지능(AI)이 생성한 잘못된 글과 그림이 포함된 논문이 게재, 삭제되는 사태가 일어났다. 이 논문은 소셜 미디어에 오르며 많은 연구자의 조롱을 받았다.
벤처비트는 16일(현지시간) 중국의 시안 자오퉁 대학교와 시안 홍위 병원 연구진이 '세포 및 발생 생물학 프론티어'라는 과학 저널에 게재한 논문이 소셜 미디어에서 문제로 지적, 결국 철회됐다고 보도했다.
이에 따르면 이 논문은 포유류 고환과 정자에 대한 논문으로 지난 13일 온라인으로 게재됐다. 이후 X(트위터)에서는 논문에 포함된 일러스트에 문제가 있다는 지적이 잇달았다. 특히 단백질을 의미하는 'proteins'를 'protemns'로 잘 못 기재하는 기본적인 실수가 포함돼 있다.
이에 대해 동료 연구원들은 AI로 생성한 그림이라는 지적과 함께 어이없는 일이 일어났다고 비난했다. 비라 라자고팔이라는 연구원은 "누군가 '달리'를 사용해 논문을 작성했고, 저널이 이를 게재하는 어이없는 일이 일어났다"라고 말했다. 또 카림 카라는 연구원도 "결국 이런 일이 벌어졌다. 말도 안 되는 짓이며, 위험하기까지 하다"라고 지적했다.
비난이 이어지자, 저널 측은 결국 논문을 삭제했다.
X를 통해 “우리 기사를 면밀히 검토해 주신 독자들에게 감사드린다. 이를 바로 잡는 데 큰 도움이 됐다"라고 밝히며, 동시에 홈페이지를 통해 “출판 이후 AI가 생성한 수치에 대한 우려가 제기됐다. 이 논문은 저널의 편집 및 과학적 기준을 충족하지 않는다. 따라서 논문을 철회한다"라고 밝혔다.
벤처비트는 논문의 모든 저자와 편집자, 편집장 등에게 연락을 자초지종을 묻기 위해 연락을 취했다고 밝혔다. 아직 답변은 받지 못한 상태다.
이처럼 과학 논문이 AI로 문제가 된 대표 사례는 '공동 저자' 문제다.
지난 2022년 한 의료 저널에 게시된 논문에는 12명의 저자 중 한명으로 '챗GPT'의 이름이 올라와 논란이 됐다. 당시 네이처와 사이언스 등 유명 저널은 생성 AI가 저자 기준을 충족하지 못한다고 밝혔다. 또 국제머신러닝학회(ICML)도 챗GPT와 같은 AI 도구를 이용해 과학 논문을 작성하는 것을 금지한다고 발표했다.
그러나 이번처럼 생성 AI 콘텐츠로 논문을 작성해 물의를 일으킨 사례는 거의 알려진 바 없다.
벤처비트는 "인용 횟수가 11만4000회가 넘는 유명 저널이 이런 실수로 인해 신뢰성에 문제가 생기게 됐다"라며 "실제로 얼마나 더 많은 논문이 이런 식으로 작성됐는지 의문이 생긴다"라고 평했다.
임대준 기자 ydj@aitimes.com
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com