Arm的AGI CPU已在与AMD EPYC的对比测试中接受基准评估,在智能体AI工作负载中展现出两倍的性能提升。Arm将其AGI CPU与AMD的EPYC Turin进行对比,展示出两倍的性能提升,但搭载Zen 6架构的EPYC Venice却缺席了此次演示。

随着业界持续推出针对智能体AI优化的芯片,这一领域的竞争正日趋白热化。几乎每周我们都能看到某家厂商展示超越竞争对手的测试结果,随后竞争对手又会全力以赴拿出自己的基准数据予以回击。
在OCP 2026大会上,Arm展示了其AGI CPU的一些全新性能表现。这些基准测试进一步扩展了该公司此前公布的结果。
AGI芯片是一款由Arm设计并于今年早些时候推出的CPU。这是该公司设计的第一款服务器级CPU芯片,围绕高性能、可扩展性和高效率进行了精细调校,专为智能体AI工作负载打造。该芯片采用Arm第三代Neoverse核心。这些核心通过与超大规模厂商的多层级合作,针对智能体工作流进行了专门调优。
其中部分优化包括降低内存延迟,以确保每个核心都能获得高内存带宽。这些芯片还旨在实现机架级与机架规模部署中的线性可扩展性,且性能不下降(利用率可达90%至95%)。此外,这些芯片的设计还力求实现更低的功耗包络,从而减少对额外散热能力的依赖,进而降低成本,并让超大规模厂商能够在单个机架中部署更多核心。
在最新一轮基准测试中,研究机构Signal65让AGI CPU接受了TerminalBench和SwayBench的一系列测试。AGI CPU与基于Zen 5架构的AMD EPYC Turin芯片进行了对比。结果显示,AGI CPU不仅能够提供更高的单核性能,还能在单机架层面保持更高的性能。
就单颗芯片而言,AGI CPU在七项工作负载中的平均性能达到EPYC 9755的1.20倍,而AMD在其中两项上直接取胜:MySQL为0.88倍,Milvus为0.95倍,在插槽层面更有利于x86芯片。1.99倍这一数字源自Arm的额定服务器功耗模型:在一个24千瓦的机架中可放置21至23台AGI CPU服务器,而EPYC 9755服务器仅能放置13台;物理核心数为5,712至5,888个,对比3,328个。这是因为一台AGI CPU服务器的额定功耗为950瓦至1,050瓦,而双路EPYC系统为1,700瓦。
将单芯片结果乘以1.62倍至1.77倍的密度系数,机架层面的数字便随之得出。该报告自身的敏感性分析值得引用:内存按每个硬件线程4GB配置,这使得支持SMT的EPYC机架每台服务器可获得约2TB内存,而AGI CPU仅为1TB;若改为按物理核心配置内存,七项工作负载的平均值将从1.99倍降至约1.81倍。
测试结果的详细分解如下:Arm AGI CPU每机架提供两倍的工作量。在七项工作负载中,AGI CPU每机架的平均建模性能达到EPYC 9755的1.99倍,单项工作负载的倍数范围在1.43倍至3.19倍之间。
机架级密度是关键驱动因素。Arm AGI对效率和可扩展性的专注,使其能够实现机架级的计算密度。Arm的额定功耗模型显示,在一个24千瓦机架中可放置21至23台AGI CPU服务器,而EPYC 9755服务器为13台;物理核心数为5,712至5,888个,对比3,328个。密度系数是服务器功耗的比值,因此在任何机架功耗水平下都成立。
智能体工作负载中的更高机架级性能。在建模的机架级性能中,Arm AGI CPU在全部三个智能体性能类别中均领先:工具调用平均1.7倍,端到端智能体工作流2.0倍,推理与规划2.2倍,同时其额定服务器功耗低于AMD EPYC 9755(每台双路服务器950至1,050瓦,对比1,700瓦)。
更低的沙箱创建延迟。在与双路AMD EPYC 9965的对比中,AGI CPU在Sandbench报告的全部三种沙箱运行时(runc、Firecracker和gVisor)上创建沙箱的速度都更快:冷启动耗时减少45%,热启动减少27%,在4倍超订的最坏情况下减少41%,从而降低了智能体环境的开销。
在我们对英伟达(NVIDIA)的独家采访中,该公司还指出,单核性能是智能体AI工作负载中的领先指标。芯片制造商们正不断努力提升单核性能。尽管核心数量持续增长——这对广泛的工作负载至关重要——但智能体需要更快的核心,而这正是各方聚焦的方向。
归根结底,你需要一款能够在两者之间取得平衡的CPU,而这正是AGI CPU的设计目标。它旨在为你提供性能、效率与可扩展性之间的平衡。同时,它还为你提供了非常可配置的运行范围。
因此,如果你想更多地针对单核性能进行调优,有办法做到;如果你想优化它以提供更高的每机架性能,同样有办法做到。此外,这些基准测试并未包含基于Zen 6架构的AMD EPYC Venice芯片,而该芯片在单核性能上展现出巨大提升。随着Venice的逐步推出,我们希望看到更多针对竞争对手最新产品的基准测试。



