英伟达(NVIDIA)鲁宾鲁宾至尊服务器将变得极其昂贵,其中很大一部分成本将仅用于内存。HBMDRAM成本推动英伟达下一代鲁宾“奥伯龙”和鲁宾至尊“凯伯”服务器的价格远超布莱克韦尔(Blackwell)

NVIDIA-Rack-Data-Center-scaled.jpeg

不断上涨的DRAM和设备成本将把英伟达鲁宾服务器的价格推向顶峰。你可能觉得布莱克韦尔服务器已经贵得离谱,但鲁宾一代的单服务器成本将达到历史新高。

根据美银全球研究(BofA Global Research)的估算,鲁宾鲁宾至尊机架的成本构成显示出巨大涨幅,这主要是由于HBM成本的增加。

先从基础说起:英伟达NVL72机架名为“奥伯龙”,包含72GPU36CPU。一个维拉·鲁宾(Vera Rubin)托盘包含4个“鲁宾GPU2个“维拉CPU。一块主板上集成2GPU1CPU,这被称为超级芯片。NVL72机架上有36个超级芯片,总共72GPU36CPU

每个鲁宾GPU配备288GBHBM4内存,每个维拉CPU配备1.5TBLPDDR5X内存。对于一个NVL72机架来说,这意味着20.7TBHBM4内存和54TBLPDDR5X内存。维拉·鲁宾NVL72机架还包含更多组件,例如网络、散热、电源和互连等。

我们之前根据摩根士丹利研究(Morgan Stanley Research)分享的物料清单估算,讨论过整个系统的成本明细。这些是全单位成本,涵盖了GPUCPU、内存以及构成鲁宾VR200“奥伯龙”机架的其他基础设施。

布莱克韦尔B200 对比 鲁宾V200 估算成本

根据新的估算,鲁宾VR200“奥伯龙”机架将包含72鲁宾V200 GPU,每个芯片拥有288GBHBM4内存,每个机架总共20,736GBHBM4内存。仅这些机架的HBM4内存就将花费38.2万美元,这还不包括LPDDR5X的成本。每GB成本为18.40美元

布莱克韦尔相比,鲁宾HBM成本将高出两倍多,每GB成本将从11.26美元上升到18.40美元。每个鲁宾服务器的平均售价为每机架600万美元,而布莱克韦尔约为每机架300万美元HBM本身只占机架成本的6.4%

  • 指标B200布莱克韦尔)— V200鲁宾

  • GPUB200V200

  • 架构:奥伯龙 — 奥伯龙

  • 量产时间2024年下半年2025年下半年2026年下半年2027年下半年

  • GPU数/机架72个 — 72

  • HBM/GPU192GB288GB

  • HBM容量/机架13,824GB20,736GB

  • HBM类型HBM3eHBM4

  • 美元/GB11.26美元18.40美元

  • HBM成本/机架15.6万美元38.2万美元

  • 平均售价/机架300万美元600万美元

  • HBM占机架成本比例5.2%6.4%

布莱克韦尔至尊B300 对比 鲁宾至尊V300 估算成本

对于鲁宾至尊,价格上涨更为惊人。每个鲁宾至尊V300芯片将集成576GBHBM4e内存,而NVL144“凯伯”机架将配备多达82,944GBHBM4eDRAM

虽然每GB成本预计与鲁宾V200相近,约为18.49美元,但每个机架的总HBM成本将膨胀至153.4万美元,是标准鲁宾“奥伯龙”机架的4倍,几乎是布莱克韦尔至尊5倍。每个鲁宾至尊“凯伯”机架的平均售价预计将达到2100万美元,而布莱克韦尔至尊400万美元

  • 指标B300布莱克韦尔至尊)— V300鲁宾至尊

  • GPUB300V300

  • 架构:奥伯龙 — 凯伯

  • 量产时间2025年下半年2026年下半年2027年下半年2028年下半年

  • GPU数/机架72个 — 144

  • HBM/GPU288GB576GB

  • HBM容量/机架20,736GB82,944GB

  • HBM类型HBM3eHBM4e

  • 美元/GB15.27美元18.49美元

  • HBM成本/机架31.7万美元153.4万美元

  • 平均售价/机架400万美元2100万美元

  • HBM占机架成本比例7.9%7.3%

富士康(Foxconn)称,英伟达维拉·鲁宾AI数据中心的开发成本每千兆瓦将超过470亿美元,每年的电费账单将达到13亿美元英伟达鲁宾不仅本身昂贵,运营这些服务器的成本也相当高。同时,鲁宾预计将提供行业内最低的总体拥有成本和词元成本,并带来无与伦比的AI性能。

考虑到对鲁宾的巨大需求,预计其将大幅超越布莱克韦尔。领先的AI公司已经在安装首批维拉·鲁宾系统,随着这些AI巨兽开始全面量产,世界很快将见证这些AI公司为何要在大规模AI数据中心上投入巨额资金。英伟达正稳步走在为全球提供领先AI能力的道路上。


文章标签: #英伟达 #AI硬件 #HBM内存 #数据中心 #服务器

负责编辑

  菠萝老师先生 

  让你的每一个瞬间都充满意义地生活,因为在生命的尽头,衡量的不是你活了多少年,而是你如何度过这些年。