인공지능(AI) 비서가 일상과 업무 전반에 깊숙이 통합되며, 이를 악용한 신종 보안 위협 사례가 드러났다. 텍스트·이미지·음성 등 다양한 형태의 입력 프롬프트를 대형언어모델(LLM)에 우회적으로 주입, 악의적인 동작을 유발하는 방식이 보고됐다.
보안 연구 전문 세이프브리치는 11일(현지시간) 구글 캘린더의 악성 초대장을 이용해, 구글 워크스페이스와 안드로이드 운영체제, 검색 엔진 등에 탑재된 AI 비서 ‘제미나이(Gemini)’를 공격할 수 있는 ‘프롬프트웨어(Promptware)’ 기법을 공개했다고 보도했다.
프롬프트웨어는 텍스트·이미지·오디오 샘플 등 입력 프롬프트를 조작해 대형언어모델(LLM)을 악용, 스팸 전송이나 기밀 정보 탈취 등을 유발하는 기법이다.
제미나이의 프롬프트 창에서는 잘 통하지 않는 공격이 구글 워크스페이스나 안드로이드, 검색 엔진 등을 통해 우회하면 작동한다는 것이 핵심이다. 예를 들어, 악성 코드가 담긴 구글 캘린더 초대장을 보내, 사용자 채팅 기록 속에 숨겨둔 프롬프트웨어를 간접 실행하는 방식이다.
이 공격을 통해 스팸·피싱 메시지 발송, 독성 콘텐츠 생성, 캘린더 이벤트 삭제, 스마트홈 기기 원격 제어, 위치 추적, 줌(Zoom)을 통한 영상 스트리밍, 이메일 유출 등 다양한 악성 행위를 수행할 수 있었다고 전했다.
세이프브리치는 프롬프트웨어의 위험성을 과소평가한다고 지적했다. 특히 제미나이처럼 많은 서비스에 통합된 경우, 피해 범위가 커질 수 있다고 경고했다.
세이프브리치는 올해 2월 이런 점을 구글에 알렸으며, 구글은 6월 ‘멀티 레이어 완화 접근법’이라는 대응 방안을 공개했다.
세이프브리치는 “LLM 개인 비서가 일으키는 위협의 73%가 ‘높음' 이상의 수준”이라며 “이 위험을 줄이기 위한 신속하고 전담된 보안 조치가 필요하다”라고 강조했다.
박찬 기자 cpark@aitimes.com
