英伟达(NVIDIA)的Vera CPU需求正不断攀升,这得益于其单线程与推理优化设计,使其成为Perplexity等公司的理想选择。Perplexity押注英伟达 Vera,该芯片承诺提供完全推理优化的架构,专为AI打造。

Vera CPU是英伟达(NVIDIA)的一款雄心勃勃的芯片,据称今年将创造200亿美元的收入,同时成为领先的CPU供应商。该芯片已进入大规模生产,并已交付给OpenAI、xAI、甲骨文(Oracle)和Anthropic等多家公司。
对CPU需求的增长主要源自智能体AI工作负载,这类工作负载对CPU的依赖程度高于GPU。即便是竞争对手也更加专注于增强其下一代芯片的推理能力,这也是未来的发展趋势。AI公司也在开发自己的定制CPU,以满足内部需求。
副总裁内特·卡普(Nate Kupp)在一次采访中表示:“对我们来说,Vera确实非常突出,它与我们大部分核心工作负载高度契合。”
据路透社(Reuters)报道,Perplexity是最新一家押注英伟达 Vera CPU的AI公司。副总裁内特·卡普表示,在智能体AI编码任务中,英伟达的Vera CPU速度是传统CPU的1.5倍,使其成为他们大部分核心工作负载的“绝佳选择”。尽管这家AI公司并未透露CPU的数量或价值,但值得注意的是,Vera已落地于所有主要AI公司,这已经证明了它的成功。
英伟达将Vera定位为唯一大规模部署的“最大单线程”CPU。在其最新的博文中,英伟达还将Vera描述为全球唯一在大规模部署中具备“最大单线程”能力的CPU。“最大单线程”CPU这一术语基于三个关键要素:负载下每个核心拥有强大的性能;每个核心拥有足够的内存带宽以持续提供数据;以及可预测的延迟。
智能体AI工作负载以循环方式运行:当CPU执行工作时,结果返回,模型决定下一步做什么,然后同样的过程不断重复。英伟达表示,传统CPU并未针对这种模式进行优化。你可以增加更多核心,但这些额外的核心无法缩短单个智能体循环中每一步的时间。核心数量更多的CPU反而可能因核心之间争夺资源而影响性能。
这就是为什么英伟达选择部署比竞争对手更少的核心数量。Vera为每个核心提供了单核优化,因为增加核心数量带来的吞吐量提升虽然有用,但可能不足以满足需求。
英伟达表示:“最终,最佳的智能体CPU需要每个核心都具备最佳的单线程性能,并且每个核心都必须不加妥协地提供这种性能。世界以秒计算。智能体以纳秒计算。英伟达 Vera就是为这种全新的工作速度和类别而构建的。”
与Grace相比,Vera通过其定制的Olympus核心实现了50%的IPC提升。它搭配了1.2 TB/s的LPDDR5X内存带宽,内存功耗低于40W,而其单片式计算芯片通过3.4 TB/s的核心间带宽为活跃核心提供数据,速度比市场上任何其他CPU快3倍以上。
我们之前已经提到Perplexity如何在其智能体AI工作负载中实现相比传统x86 CPU高达50%的性能提升。在并发沙盒环境中,这一性能提升高达90%。此外,英伟达的合作伙伴正在测量,与x86 CPU产品相比,在处理大规模Starburst SQL分析时性能提升3倍,而在使用Redpanda进行实时流处理时,延迟降低多达6倍。
随着英伟达的Vera力求成功,该公司已经在宣传其下一代数据中心CPU,代号Rosa,采用更新的Rigel核心架构。Rosa作为Vera的继任者,看起来非常令人印象深刻,英伟达正走在以高采用率挑战x86竞争对手的道路上。



