看来,人工智能行业现在正专注于通过NAND芯片打造一款推理优化型人工智能固态硬盘,因为SK海力士计划在2027年前推出解决方案。

随着传统的人工智能工作负载从训练转向推理,需要调整技术栈以确保低延迟、高吞吐量的环境。原因之一是英伟达(NVIDIA)已决定将通用GDDR7内存集成到Rubin CPX GPU中以用于预填充。据报道,NAND芯片预计也将采用类似的方法。据称,英伟达和SK海力士正在合作开发一个名为“Storage Next”的新固态硬盘解决方案,作为内部项目,它可能会彻底改变NAND领域。
据称,SK海力士计划在明年年底前展示原型,并且这款人工智能固态硬盘的IOPS可扩展到高达1亿,这比传统企业级固态硬盘的性能要高出许多。在审视对此类解决方案的需求时,可以清楚地看到,当前的人工智能工作负载结构需要持续访问海量的模型参数,这是HBM或通用DRAM产品无法满足的。人工智能固态硬盘最终将提供一个为人工智能工作负载优化的伪内存层。
据报道,这家韩国巨头正在与英伟达合作开发Storage Next项目,其主要目标是通过先进的NAND和控制器架构来提高吞吐量和能效。虽然这个目标看起来确实很乐观,但同样重要的是要注意到,由于云服务提供商和人工智能巨头对存储的需求,NAND供应链已经承受着巨大的压力,并且考虑到所讨论的人工智能固态硬盘解决方案如果真的成为主流,那么,你可能会看到NAND闪存芯片也出现类似DRAM的情况。
看来,推动人工智能工作负载的代价很高,它扰乱了现有的供应链,无论是消费者还是供应商都没有足够的时间来应对不断变化的供需形势。DRAM合约价格日益恶化,从目前的情况看,下一个可能就是NAND。



