英伟达(NVIDIA)的Vera Rubin机架拥有前所未有的内存容量,而据其物料清单(Bill of Materials)披露,这一优势也伴随着高昂的价格标签。

Vera-Rubin-Server-scaled.jpeg

内存成本在Grace Blackwell服务器中占比53%,而Vera Rubin将其推高至62%,价格增幅翻倍

Vera Rubin机架价格极其昂贵,虽然人们预料到这些下一代企业级“性能猛兽”会溢价出售,但最主要的成本驱动因素无疑是内存——仅内存一项就占据了Vera Rubin平台成本的62%。

虽然我们在过去几个月中已经多次报道过英伟达Vera Rubin机架的成本及物料清单(BOM),但瑞银(UBS)最新分享的报告详细拆解了每个Vera Rubin超级芯片及其所在机架的成本。Vera Rubin NVL72服务器,代号Oberon,搭载72个基于Rubin架构的GPU,并配备海量内存。

该芯片本身配备288 GB的HBM4内存,可提供高达22 TB/s的带宽,而Vera CPU则连接最新的SOCAMM2 LPDDR5X方案,每个超级芯片可承载高达1.5 TB的内存。

超级芯片与NVL72基础知识

我们先从基础说起:英伟达NVL72机架名为Oberon,由72个GPU加36个CPU组成。单个Vera Rubin托盘容纳4个“Rubin”GPU和2个“Vera”CPU。每两个GPU加一个CPU安放在一块主板上,即所谓的“超级芯片”。NVL72机架中共有36个超级芯片,也就是总计72个GPU和36个CPU。

每个Rubin GPU配备288 GB HBM4内存,每个Vera CPU配备1.5 TB LPDDR5X内存。因此一个NVL72机架总共拥有20.7 TB HBM454 TB LPDDR5X内存。Vera Rubin NVL72机架还包含更多组件,如网络、散热、供电、互连等。

成本拆解

据瑞银报告,每个英伟达Vera Rubin超级芯片的成本为38,902美元,其中仅内存(HBM4/SOCAMM2)一项就高达24,297美元

Rubin芯片的估计成本为9,247美元,包括GPU、HBM4、封装、中介层和外设组件。

Vera芯片的估计成本为20,059美元,包括CPU、SOCAMM2 LPDDR5X,以及额外350美元的其他板卡组件。

Rubin GPU上的HBM4内存估计价值4,943美元,占芯片成本的53.4%,占整个超级芯片成本的12.7%

对于Vera CPU而言,SOCAMM2的成本估计为19,355美元,占Vera成本的96.4%,占整个超级芯片成本的49.8%。如果剔除内存,Vera CPU本身的成本仅为704美元。也就是说,GPU一半的成本以及CPU几乎全部的成本,都花在了DRAM上。

Grace Blackwell与Vera Rubin对比

现在,如果我们将这些报告的物料清单(BOM)数值与Grace Blackwell服务器进行对比,会发现Vera Rubin的总内存成本占比从53%略微上升至62%。就整体成本而言,Vera Rubin是上一代产品的2.1倍,但内存成本却大幅增加了2.5倍

在Blackwell服务器上,Grace CPU配备480 GB内存,Blackwell GPU提供192 GB HBM3E(GB200)以及高达288 GB HBM3E(GB300)的配置。

Vera Rubin机架的总内存池已膨胀至74.7 TB(HBM4 + SOCAMM2)。这意味着一个Vera Rubin机架在DRAM使用量上大约相当于4,500部智能手机。而且,全球将出货数千台这样的机架,用于支持AI数据中心、云服务商、企业和HPC的需求。

这一成本拆解应该能让你大致了解,为什么全球会出现如此严重的DRAM短缺。而且这不仅仅是英伟达一家的问题;AMD也发布了其强大的Helios平台,每颗GPU可提供高达432 GB HBM4内存,其下一代服务器将配备相同甚至更高容量的LPDDR5X内存。

其他AI巨头也正在开发各自的智能体AI(Agentic AI)时代加速器和服务器平台,这将进一步加剧DRAM市场的压力。据“三大”内存厂商报告,这些短缺状况将持续数年之久,而AI客户目前通过长期协议享有优先供货权。

英伟达的Vera Rubin NVL72机架凸显了内存在新一代AI硬件中日益占据主导地位的趋势,HBM4和SOCAMM2 LPDDR5X占超级芯片约39,000美元成本的62%——高于Grace Blackwell系统中的53%,并使整体内存支出猛增2.5倍。

这些平台每个机架提供惊人的74.7 TB DRAM(相当于数千部智能手机),连同AMD及其他AI领军厂商类似的高内存设计,正在加剧全球DRAM短缺。行业报告指出,随着AI需求被置于优先地位,这种短缺将持续数年。


文章标签: #英伟达 #VeraRubin #内存成本 #HBM #AI硬件

负责编辑

  菠萝老师先生 

  让你的每一个瞬间都充满意义地生活,因为在生命的尽头,衡量的不是你活了多少年,而是你如何度过这些年。