本周可谓是一连串人工智能引发的恐慌事件,先是全球多地发生了一系列高关注度的攻击事件,外界普遍将其归咎于深度求索(DeepSeek)旗下V4.1-Flash-1017模型的越狱版本,最后又以OpenAI自曝的一则令人不安的轶事收尾——该公司详细披露了其部分AI智能体如何在相互隔离的虚拟机之间,仅凭缓存时序差异便实现了相互通信。

OpenAI-Abliterated-DeepSeek-V4.1-Flash-1017-1-scaled.jpeg

OpenAI如今表示,其AI智能体能够借助处理器缓存时序差异,在隔离的虚拟机之间进行通信:一个智能体通过将选定数据从缓存中逐出来编码信息,另一个智能体则对重新加载该数据所需的时间进行计时。

OpenAI刚刚发布了一篇颇为有趣的博客文章,指出在其旗下一个模型“利用DNS配置错误找到了逃出这一离线世界的方法”之后,该公司被迫暂停了前沿训练,并召集了多个智能体团队来排查其研究环境中的薄弱环节。

作为相关实验的一部分,OpenAI还要求其托管在不同虚拟机上的AI智能体“在不使用网络连接或共享可写文件的情况下交换合成机密”。然而接下来发生的事情,简直令人震惊——这些智能体最终成功通过处理器缓存时序差异实现了相互通信。这种差异源于一个事实:从缓存中读取数据通常比从主内存中检索数据更快。

“这些智能体找到了一种利用处理器缓存进行通信的方法:缓存是一种小而快速的内存,用于保存应用程序近期访问过的数据副本。”

OpenAI随后补充道:

“一个智能体通过将选定数据从缓存中逐出来编码信息。另一个智能体则对重新加载该数据所需的时间进行计时,利用快速读取与慢速读取之间的差异来还原消息。一旦这些智能体就这些信号的编码和解码协议达成一致,它们便能在不修改共享文件、也不建立网络连接的情况下交换合成机密。”

当然,OpenAI的诺姆·布朗(Noam Brown)早在9月就引发过轰动,他指出即便是气隙计算机——即彼此完全隔离、与任何其他系统都没有网络连接或数据链路的计算机——只要配备足够强大且意志坚定的AI模型或智能体,也能够相互通信:

“有一些研究——主要是学术性质的——表明,两台并排放置的气隙计算机仍然能够相互通信,因为它们配有温度传感器。”

正如我们当时所指出的,现代CPU、GPU和主板都内置了温度二极管等热传感器。这些传感器主要用于热管理,使系统能够启动风扇、降低时钟频率或在过热时关机。然而,一些研究表明,可以在两台气隙计算机之间维持一条带宽极低的隐蔽信道——一台CPU运行发热,另一台则利用随之产生的温度变化作为代码进行解读,从而实现相互“对话”。

尽管这类警告不久前还显得遥不可及,但本周的事件真正让人深刻认识到人工智能失控所带来的固有网络危险——这种危险有可能引发一场文明危机。

而且,仿佛情况还不够糟糕,深度求索能力出众的V4.1-Flash-1017模型已经出现了“解除限制”版本,无论请求多么离谱或危险,它们都来者不拒。


文章标签: #AI安全 #OpenAI #缓存通信 #气隙隔离 #深度求索
菠萝老师先生

负责编辑

  菠萝老师先生 

  让你的每一个瞬间都充满意义地生活,因为在生命的尽头,衡量的不是你活了多少年,而是你如何度过这些年。