在Hot Chips 2026大会上，Arm云计算AI业务部营销副总裁埃迪·拉米雷斯（Eddie Ramirez）和Arm产品管理高级总监杰夫·德菲利皮（Jeff Defilippi）对Arm AGI CPU及其在AI领域的客户反馈进行了深入剖析。
Arm表示，迄今为止已向数据中心出货15亿个Neoverse核心，其中5亿个是在过去9个月内完成的出货。目前，Arm在AI服务器平台（基于IDC2026年报告）中作为宿主CPU的市场份额超过60%，至今已有超过12万家企业在云端部署了Arm架构。
推动Arm IP采用率爆发式增长的主要驱动力是智能体AI（Agentic AI）。Arm指出，到2030年，AI智能体的Token使用量预计将增长24倍，且对CPU的依赖程度日益加深。在任务分配方面，企业自动化在CPU与加速器之间的负载分配为50比50；软件开发为60比40；财务分析则为40比60。同样，领先的CPU制造商报告称，在智能体AI领域，CPU与AI加速器之间的配比未来将趋于1比1甚至2比1。
CPU对于各种工具和编排流程至关重要。在规划与推理任务中，CPU承担了大部分工作，而加速器则负责处理大语言模型推理（预填充与解码）任务。以下是各类工作负载中CPU压力分布情况：
工具调用：IPC、I/O、并发性
编排：并发性、利用率
推理：分支预测、缓存、内存延迟、带宽
Neoverse V3详解
为加速上述工作负载，Arm开发了自有CPU——AGI。该AGI CPU于数月前发布，是全栈路线图的一部分，涵盖多代产品及机架级解决方案。该CPU的核心特性在于采用了Arm Neoverse V3核心架构。它每颗芯片最多部署136个核心，每个核心配备2MB专用二级缓存，频率最高达3.7GHz。该芯片基于台积电（TSMC）3nm工艺制造，采用双Chiplet设计，每个Chiplet包含超过500亿个晶体管，额定最大热设计功耗（TDP）为300W。
AGI CPU将内存与I/O集成在同一裸片上，实现了低于100纳秒的优化内存访问延迟。该芯片配备96条PCIe Gen6通道，支持CXL 3.0内存及其他扩展，并搭载AMBA CHI扩展链路。通过支持DDR5-8800内存（每芯片容量达6TB），每个核心可获得6GB/s的内存带宽。
深入剖析Arm Neoverse V3核心（Armv9.2架构）的构成模块，该IP包含一个配备指令预取器和高级分支预测器的分支预测单元。指令获取单元具备高带宽获取能力，配有64KB指令缓存；解码队列为10路（前端）；解码系统为功耗优化的10路架构；重命名/派遣单元提供超过384项的乱序窗口，支持10路派遣和8路退役。
Chiplet复合体
Arm AGI CPU并非单芯片设计，而是由两个Chiplet组成。每个Chiplet最多包含70个核心（每个CPU理论上应为140个核心，但为保证良率禁用了四个核心）、64KB指令缓存和数据缓存、每核心2MB私有二级缓存（即每Chiplet140MB）、一致性的CMN互联、每核心1MB集成共享系统级缓存，以及安全（信任根）和控制子系统。
这些Chiplet连接到DDR5内存子系统、PCIe Gen6与CXL I/O子系统、采用UCIe PHY和UCIe控制器的裸片间子系统，以及支持多插槽的一致性网状网络。从版图布局来看，Arm AGI CPU核心（即核心复合体）位于每个Chiplet的中心，裸片间接口位于右侧，PCIe位于左侧，内存控制器则分布在顶部和底部。
机架级解决方案
Arm AGI CPU将出现在一系列参考设计和合作伙伴解决方案中。Arm自身提供参考1U双节点和2U2P服务器，而超微（Supermicro）、华擎科技（ASRock）、联想（Lenovo）等合作伙伴则提供各自的机箱设计。此外，超微还推出机架级系统，包括支持液冷的2U4节点和1U4节点系统。
这些机架最多可容纳8160个CPU核心、30台1U服务器，采用36kW功率设计。Arm表示，在同等36kW设计下，其解决方案的每机架性能是基于x86 IP方案的两倍以上。
随着智能体AI持续升温，该公司已将客户需求预测从此前公布的10亿美元上调至2027-2028年期间的20亿美元。如前所述，这还仅仅是AGI CPU本身。Arm继续通过其Armv9架构为其他厂商的计算平台赋能。除了AGI之外，同一Armv9基础还支撑着一个不断壮大的生态系统——英伟达（NVIDIA）Vera与Rosa、微软（Microsoft）Azure Cobalt、谷歌（Google）Axion、AWS Graviton、富士通Monaka，确保Arm架构在下一代AI优化计算中保持核心地位。
