英伟达(NVIDIA)的鲁宾和鲁宾至尊服务器将变得极其昂贵,其中很大一部分成本将仅用于内存。HBM和DRAM成本推动英伟达下一代鲁宾“奥伯龙”和鲁宾至尊“凯伯”服务器的价格远超布莱克韦尔(Blackwell)。

不断上涨的DRAM和设备成本将把英伟达鲁宾服务器的价格推向顶峰。你可能觉得布莱克韦尔服务器已经贵得离谱,但鲁宾一代的单服务器成本将达到历史新高。
根据美银全球研究(BofA Global Research)的估算,鲁宾和鲁宾至尊机架的成本构成显示出巨大涨幅,这主要是由于HBM成本的增加。
先从基础说起:英伟达NVL72机架名为“奥伯龙”,包含72个GPU和36个CPU。一个维拉·鲁宾(Vera Rubin)托盘包含4个“鲁宾”GPU和2个“维拉”CPU。一块主板上集成2个GPU和1个CPU,这被称为超级芯片。NVL72机架上有36个超级芯片,总共72个GPU和36个CPU。
每个鲁宾GPU配备288GB的HBM4内存,每个维拉CPU配备1.5TB的LPDDR5X内存。对于一个NVL72机架来说,这意味着20.7TB的HBM4内存和54TB的LPDDR5X内存。维拉·鲁宾NVL72机架还包含更多组件,例如网络、散热、电源和互连等。
我们之前根据摩根士丹利研究(Morgan Stanley Research)分享的物料清单估算,讨论过整个系统的成本明细。这些是全单位成本,涵盖了GPU、CPU、内存以及构成鲁宾VR200“奥伯龙”机架的其他基础设施。
布莱克韦尔B200 对比 鲁宾V200 估算成本
根据新的估算,鲁宾VR200“奥伯龙”机架将包含72个鲁宾V200 GPU,每个芯片拥有288GB的HBM4内存,每个机架总共20,736GB的HBM4内存。仅这些机架的HBM4内存就将花费38.2万美元,这还不包括LPDDR5X的成本。每GB成本为18.40美元。
与布莱克韦尔相比,鲁宾的HBM成本将高出两倍多,每GB成本将从11.26美元上升到18.40美元。每个鲁宾服务器的平均售价为每机架600万美元,而布莱克韦尔约为每机架300万美元。HBM本身只占机架成本的6.4%。
指标:B200(布莱克韦尔)— V200(鲁宾)
GPU:B200 — V200
架构:奥伯龙 — 奥伯龙
量产时间:2024年下半年—2025年下半年 — 2026年下半年—2027年下半年
GPU数/机架:72个 — 72个
HBM/GPU:192GB — 288GB
HBM容量/机架:13,824GB — 20,736GB
HBM类型:HBM3e — HBM4
美元/GB:11.26美元 — 18.40美元
HBM成本/机架:15.6万美元 — 38.2万美元
平均售价/机架:300万美元 — 600万美元
HBM占机架成本比例:5.2% — 6.4%
布莱克韦尔至尊B300 对比 鲁宾至尊V300 估算成本
对于鲁宾至尊,价格上涨更为惊人。每个鲁宾至尊V300芯片将集成576GB的HBM4e内存,而NVL144“凯伯”机架将配备多达82,944GB的HBM4eDRAM。
虽然每GB成本预计与鲁宾V200相近,约为18.49美元,但每个机架的总HBM成本将膨胀至153.4万美元,是标准鲁宾“奥伯龙”机架的4倍,几乎是布莱克韦尔至尊的5倍。每个鲁宾至尊“凯伯”机架的平均售价预计将达到2100万美元,而布莱克韦尔至尊为400万美元。
指标:B300(布莱克韦尔至尊)— V300(鲁宾至尊)
GPU:B300 — V300
架构:奥伯龙 — 凯伯
量产时间:2025年下半年—2026年下半年 — 2027年下半年—2028年下半年
GPU数/机架:72个 — 144个
HBM/GPU:288GB — 576GB
HBM容量/机架:20,736GB — 82,944GB
HBM类型:HBM3e — HBM4e
美元/GB:15.27美元 — 18.49美元
HBM成本/机架:31.7万美元 — 153.4万美元
平均售价/机架:400万美元 — 2100万美元
HBM占机架成本比例:7.9% — 7.3%
据富士康(Foxconn)称,英伟达维拉·鲁宾AI数据中心的开发成本每千兆瓦将超过470亿美元,每年的电费账单将达到13亿美元。英伟达鲁宾不仅本身昂贵,运营这些服务器的成本也相当高。同时,鲁宾预计将提供行业内最低的总体拥有成本和词元成本,并带来无与伦比的AI性能。
考虑到对鲁宾的巨大需求,预计其将大幅超越布莱克韦尔。领先的AI公司已经在安装首批维拉·鲁宾系统,随着这些AI巨兽开始全面量产,世界很快将见证这些AI公司为何要在大规模AI数据中心上投入巨额资金。英伟达正稳步走在为全球提供领先AI能力的道路上。



