SafeBreach研究人员揭露了一种利用恶意Google日历邀请函操控Gemini（谷歌内置于Workspace办公套件、Android操作系统及搜索引擎的AI助手）的攻击手法。这项研究旨在揭示AI技术快速融入科技产品所带来的安全隐患，研究人员将此类漏洞利用称为“提示件”——即通过精心设计的文本、图像或音频输入，在大型语言模型推理阶段触发恶意活动（如传播垃圾信息或窃取机密数据）。SafeBreach指出，当前安全界普遍低估了提示件的风险，本次报告则揭示了其破坏潜力。
该攻击主要利用三个关键点：Gemini与谷歌生态的深度整合、Google日历界面易被邀请函淹没的特性，以及受害者习惯性对自动化服务致谢的心理。通过这种方式，攻击者可间接激活用户聊天记录中的恶意提示件，进而实现以下操作：
• 发送垃圾邮件与钓鱼攻击
• 生成有害内容
• 删除受害者日历日程
• 远程操控智能家居设备（如联网窗户、锅炉、灯具）
• 定位受害者地理位置
• 通过Zoom劫持受害者视频流
• 窃取电子邮件
研究人员已于2024年2月向谷歌提交漏洞报告。谷歌在6月发布的博客中概述了针对提示注入攻击的多层防护方案（但具体防护措施的实施时间尚不明确）。这种攻防拉锯战本质上是技术发展的常态，但SafeBreach强调三个加剧风险的因素：安全专家对提示件的忽视、企业“快速试错”的AI部署策略，以及聊天机器人被盲目植入各类产品（如Gemini的全面渗透）。
“我们的分析表明，大型语言模型个人助手对终端用户构成的威胁中，73%属于高危风险。”SafeBreach警告称，“这亟需采取快速专项防护措施以保障用户安全。”
