据悉,这家台湾制造商成为首家为英伟达(NVIDIA)Vera Rubin平台提供LPDDR5X内存的厂商,这家“绿厂”正在多元化其供应链,为其智能体AI(Agentic AI)引擎提供动力。

NVIDIA-Vera-CPU.jpeg

英伟达供应链多元化,引入台湾存储厂商为Vera Rubin供应LPDDR5X方案

英伟达需要大量内存,包括低功耗和高带宽类型,以满足其Vera Rubin平台对智能体AI日益增长的需求。

英伟达的Vera Rubin使用了两种类型的内存。Vera CPU采用LPDDR5X DRAM,而Rubin GPU则使用HBM4 DRAM。两者用途不同:HBM4结构紧凑,提供更高的带宽;而LPDDR5X能效高,密度更大。HBM4生产难度较大,仅有三星(Samsung)、SK海力士(SK Hynix)和美光(Micron)等少数几家大厂能生产,而LPDDR内存则应用广泛。

这使得英伟达能够多元化其供应链合作伙伴。据悉,美光(Micron)SK海力士(SK Hynix)已为Vera Rubin平台开发了基于其LPDDR5X方案的SOCAMM2内存,但英伟达仍在寻找更多供应链合作伙伴。

根据UDN的报道,英伟达在台湾找到了一个合作伙伴。南亚科技(Nanya Technology)是一家总部位于台湾的内存制造商,生产LPDDR5/LPDDR5X内存,并已被选为英伟达Vera Rubin的供应链合作伙伴。

南亚科技成为首家进入英伟达AI服务器主存储系统供应链的台湾厂商,打破了此前韩国和美国公司的垄断格局,为台湾存储产业树立了新的里程碑。

这对南亚科技来说是一次重大胜利,因为大多数涉足PC内存业务的台湾存储制造商都无法满足AI平台的规格要求。为解决这一问题,台积电(TSMC)指导本地公司协助进行制造和工艺优化。如今,南亚科技被选中为全球最快的下一代AI系统生产内存。

配备LPDDR5X的英伟达Vera Rubin平台将比Grace Blackwell(GB300)服务器实现大幅性能提升。每个Vera Rubin超级芯片将搭载1.5 TB内存,运行速度为1.2 TB/s,容量比上一代提升3倍,带宽提升50%Vera CPU还将部署于机架级AI系统,每个机架可容纳256颗Vera芯片,总内存高达400 TB,总带宽可达315 TB/s

随着智能体AI将核心焦点从GPU转向CPU,VeraRubin同样至关重要。尽管新模型将KV缓存压缩了90%,但日益增长的CPU需求和更高的内存需求,使得拥有多个全球供应链合作伙伴至关重要。英伟达通过选择台湾存储制造商以及其全球合作伙伴来满足需求,这是正确的举措。

在NVIDIA Vera CPU机架配置中,包含256颗Vera CPU,每颗Vera CPU拥有88个NVIDIA Olympus核心和176线程。机架总核心数为22,528个,线程数为45,056。内存容量方面,机架高达400 TB,单颗Vera CPU高达1.5 TB。聚合带宽机架高达315 TB/s,单颗高达1.2 TB/s。网络方面,机架采用NVIDIA BlueField-4 DPU,单颗不适用。散热方面,机架采用液冷,单颗不适用。


文章标签: #英伟达 #南亚科技 #LPDDRX #AI服务器 #供应链

负责编辑

  菠萝老师先生 

  让你的每一个瞬间都充满意义地生活,因为在生命的尽头,衡量的不是你活了多少年,而是你如何度过这些年。