在AI加速器面临高带宽内存（HBM）与固态硬盘（SSD）之间严重性能差距的背景下，SK海力士（SK hynix）与闪迪（SanDisk）联合推出了一项新标准——高带宽闪存（High Bandwidth Flash，简称HBF），旨在弥合这一性能鸿沟。两家存储厂商的目标是构建一个开放生态系统，让各家企业都能开发出兼容产品。
HBF规范允许在单一配置中实现最高512GB的容量，通过将NAND闪存裸片以8层或16层堆叠而成。
简单来说，HBF兼具定位介于HBM与企业级SSD之间的特性。与HBM类似，HBF依靠多层堆叠的内存裸片实现，但并非使用DRAM，而是采用NAND闪存来提升存储容量。其主要角色是弥补容量上限的不足，而非直接取代HBM。大语言模型（LLM）可通过HBM进行推理计算——这部分数据需要即时访问，而HBF则以更大容量承载数据存储需求。
SK海力士与闪迪的最新规范支持HBF最高达到512GB容量，带宽范围从0.4TB/s至3TB/s。为理解该技术如何提升AI推理性能，不妨假设有一个拥有5000亿个参数的AI模型——如果每GB可容纳10亿个参数，那么该模型约需500GB存储空间。由于将整个模型存于HBM中并不经济，企业可以借助HBF来存储这些AI模型。
高带宽闪存还支持UCIe（通用芯粒互连标准）规范，使HBF能够连接各种CPU和GPU，引入一个完整的灵活性层。SK海力士解决方案开发负责人金春成（Kim Chun-sung）表示，公司“将扩展内存与存储之间的边界，为构建提升整体系统效率的新架构做出贡献。”
随着SK海力士与闪迪着力推广HBF标准，三星（Samsung）已与英伟达（NVIDIA）等巨头建立了紧密合作关系，开发并量产CMX解决方案。通过制造可堆叠至500层的V10和V11 NAND闪存，这家韩国巨头将瞄准AI服务器对超高速存储的需求——使服务器能快速访问数据、提升GPU卸载效率，进而实现更优的AI推理性能。
哪一种标准将加速胜出？答案或许将在未来数月揭晓。
