谷歌正试图将它的“人工智能”一股脑塞进所有产品中。现在，只要你使用搜索、安卓系统或Chrome浏览器，就会不断被推送各种版本的Gemini功能。但或许在让谷歌大语言模型帮你总结Gmail邮件之前，你应该再等等……因为显然，它很容易被用来传递钓鱼攻击。
Google Gemini for Workspace有一项功能，可以通过Gmail界面总结邮件内容，但邮件地址不一定是真实的Gmail地址。提交给Mozilla的0din AI漏洞赏金计划（由BleepingComputer发现）的一个漏洞揭示了一个简单的欺骗方法：只需在邮件末尾用白色字体在白色背景上隐藏一些文字，这些内容对读者来说基本上是看不见的。由于没有链接或附件，这种邮件不会触发常规的垃圾邮件防护机制。
接下来会发生什么，你大概能猜到。那些“隐形”文字中的指令会让Gemini自动生成的摘要提示用户，他们的密码已泄露，并应拨打某个电话号码进行重置。在这个假设场景中，电话另一端可能正有一个身份窃贼等着窃取你的电子邮件账户以及与之关联的其他信息。文本中隐藏的“Admin”标签还能确保Gemini在摘要中原封不动地包含这些文字。
需要强调的是，目前这只是一个理论上的攻击方式，截至本文撰写时尚未在现实中观察到。Gemini的“总结邮件”功能目前仅面向Workspace账户开放，普通用户无法使用。（我猜，如果对数以亿计的基础Gmail用户开放这一功能，即便是谷歌强大数据中心的重型服务器也可能不堪重负。）
但令人担忧的是，用户对大语言模型生成的文本几乎毫无保留地信任——哪怕这些内容看起来像是宗教妄想或种族主义宣言。垃圾邮件发送者和黑客已经在利用大语言模型及相关工具更高效地扩大他们的影响力。随着用户越来越依赖人工智能替代他们的工作——甚至思考——这些系统被更频繁、更有效地攻破似乎只是时间问题。
