AMD与英伟达的AI竞赛正在升温，AMD选择了一家相当明智的合作伙伴来增强其Helios机架级系统的推理能力。最近，一位OpenAI研究员对Cerebras的晶圆级引擎（Wafer-Scale Engine）赞不绝口。
在最近的一篇专题文章中，我们曾解释过，Helios是AMD面向AI工作负载推出的首款全栈机架级解决方案，包含以下组件：
AMD Instinct MI455X GPU
第六代AMD EPYC CPU
AMD Pensando AI网络接口卡（NIC）
AMD Pensando DPU
AMD Infinity Fabric
AMD ROCm软件栈
为了进一步增强其Helios系统在AI工作负载中的实用性，AMD已与Cerebras合作，计划将Cerebras的晶圆级引擎（Wafer-Scale Engine）整合到其Helios系统中，以实现极速推理。对于那些可能不太了解的人来说，Cerebras的晶圆级引擎将整个AI超级计算机级别的内存和计算能力集成到一块巨大的、互联的单片硅片上，数十万个计算核心和数十GB的SRAM无缝连接，使得数据能够高效移动，而无需经过外部网络瓶颈。
基本上，Cerebras的晶圆级引擎可以在其统一的SRAM块中容纳整个中型模型，或者大型模型的巨大部分。此外，Cerebras方法的多样性使其能够支持训练和推理工作负载。根据AMD的路线图，Helios将提供一个高性能、可扩展的吞吐量引擎，而Cerebras的技术则将提供超快速、超低延迟的解码和词元生成。两者结合，预计将带来每瓦每秒高达5倍的词元吞吐量提升。
这引出了我们的核心话题。一位OpenAI研究员杰弗里·王（Jeffrey Wang）刚刚对Cerebras的芯片（很可能利用了其晶圆级引擎架构）大加赞赏，他指出：“在我们内部，有一些OpenAI的模型运行在Cerebras的芯片上。它们非常不可思议，因为推理速度如此之快。” 王接着宣称：“这对我来说在日常工作中的意义是：以前我可能需要等上几分钟才能完成一个任务，现在它在我考虑切换上下文之前就已经完成了。这让我效率高多了。”
简单来说，AI模型在执行不同任务之间切换时通常会进行上下文切换。这可能发生在多智能体设定下，模型需要执行一系列不同的任务，或者在专家混合模型（Mixture of Experts，MoE）中，各种子神经网络专门负责执行特定任务。OpenAI对Cerebras系统印象深刻的事实表明，AMD集成了晶圆级引擎的Helios机架级系统在推出后很可能会大受欢迎。考虑到推理成本现在是决定数据中心盈利能力的最主要因素，这一点就变得更加重要。
