피싱 메일 생성과 배포를 돕는 사이버 범죄용 인공지능(AI) 챗봇이 등장했다. 악성 바이러스의 이름을 따 '웜GPT(WormGPT)'라고 부른다.
데이터코노미는 최근 사이버 보안회사 슬래시넥스트(SlashNext)의 보고서를 인용해 일부 해커가 악성 이메일을 생성하고 발송하는 챗봇을 이달초 공개했으며, 이로 인해 수천건의 피싱 메일 배포가 이뤄졌다고 보도했다.
이에 따르면 웜GPT는 비영리 오픈소스 그룹인 일루서AI(EleutherAI)가 2021년 출시한 'GPTJ' 모델을 기반으로 제작됐다. 맬워어 관련 데이터셋을 학습했으며 무제한 문자 지원이나 채팅 메모리 및 코드 보존 등의 기능을 가지고 있다는 것으로 알려졌다.
웜GPT는 기업 임직원으로 가장해 돈이나 중요한 정보를 요구하는 피싱 메일을 생성하고 발송한다. 챗봇의 오남용을 유도하는 기존 '탈옥'과 다른 점은 기존 모델의 자체적인 안전장치인 '가드 레일'을 제거, 사용자의 악의적인 요청에 잘 대응할 수 있게 만들었다는 점이다.
이로 인해 초보자라도 악성 도구를 이용할 수 있게 됐다는 지적이다. 슬래시넥스트와 협업 중인 다니엘 켈리라는 해커는 "악의적인 목적을 가진 해커가 사용하기 쉬운 사용자 지정 모듈을 만들고 있을뿐더러 다른 사람에 이를 광고하고 있다"고 밝혔다.
데이터코노미는 "이 챗봇을 사용하는 것은 법적 경계를 넘어 해킹, 데이터 절도 및 기타 불법 활동에 대한 규칙을 위반하는 것"이라고 밝혔다. 특히 "복잡한 사이버 공격의 주모자가 돼 컴퓨터 시스템과 네트워크에 상당한 피해를 입힐 수 있다"며 위험성을 경고했다
임대준 기자 ydj@aitimes.com
