英伟达(NVIDIA)将继续使用HBM,高带宽闪存(HBF)尚未列入考虑,但计划于今年晚些时候提供样品。高带宽闪存(HBF)是一种比HBM容量更大的内存,英伟达(NVIDIA)不会采用该技术,而谷歌(Google)将成为其主要客户。

随着近期人工智能(AI)的推动,NAND DRAM得到了广泛应用。虽然主要用于存储(如固态硬盘SSD),但新兴的闪存技术可能会在下一代NAND DRAM技术,即高带宽闪存(HBF)中发挥重要作用,该技术填补了HBM与NAND闪存之间的空白。
闪迪(SanDisk)和SK海力士(SK Hynix)正在联合开发HBF,它将采用与HBM类似的架构层级,即堆叠多层NAND闪存。每一层都将通过多个硅通孔(TSV)连接,将所有NAND封装融合成一个单一堆叠。目前,每堆叠HBM的容量为32-64 GB,而HBF的容量可扩展至4 TB。
在速度方面,HBM更快,但通过架构优化,HBF能够为关键的AI任务提供足够的吞吐量。HBF标准非常适合推理工作负载,在当前因自主人工智能(Agentic AI)激增而日益重要的背景下,这一点尤为关键。更高的容量还能缓解主计算芯片在一些KV高速缓存约束上的问题。
英伟达(NVIDIA)似乎仍然对HBF不感兴趣,其观点是HBF的高带宽可以通过eSSD充分满足。近期有报道称,闪迪(SanDisk)已发出与HBF相关的采购订单,且据信闪迪(SanDisk)正在与客户洽谈。
尽管HBF听起来前景广阔,但行业消息人士指出,英伟达(NVIDIA)近期并不打算采用这种新型DRAM技术,因为它认为eSSD可以解决容量和速度方面的限制。据悉,英伟达(NVIDIA)正在与铠侠(Kioxia)合作,生产比标准设计快100倍的PCIe Gen7固态硬盘。
截至目前,SK海力士(SK Hynix)在HBF的开发中处于领先地位,首批样品计划于今年下半年推出。
据报道,谷歌(Google)将成为HBF的主要客户,计划为其快速扩展的AI项目获取这项技术。谷歌(Google)的TPU生态系统正在加速发展,并且他们正在通过多个正在研发的下一代TPU解决方案来扩展其计算能力。HBF是否会成为一种突出应用尚有待观察,但除了替代HBM之外,它还有一个巨大的应用场景,那就是替代标准的DDR内存。
随着CPU成为AI领域的新瓶颈,服务器已开始扩大LPDDR的使用。这导致对LPDDR5和LPDDR5X内存(尤其是SOCAMM2)的需求大幅增长。通过HBF的多层堆叠方法,芯片制造商和AI生态系统供应商不仅能够减少PCB占用空间,还能在保持较低功耗和高带宽吞吐量的同时,增加更多容量。



