搭载大量英伟达(NVIDIA)GPU的AI服务器此前能够处理海量临时上下文数据,即键值(Key-Value,简称KV)缓存,但这些数据的规模已变得极其庞大,开始对芯片造成瓶颈,从而催生了对上下文内存存储(Context Memory Storage,简称CMX)的需求,而三星(Samsung)恰好在此刻登场。

一份最新报告指出,这家韩国巨头已在向英伟达大量供应V9 NAND闪存用于此目的,而V10 NAND也已进入量产阶段。虽然这些出货量能消除GPU的上下文数据限制,但代价是其他公司和消费者将首当其冲,因为市场上几乎不会剩下什么供应量。
为满足这一需求,据Sedaily报道,三星为英伟达的V-NAND闪存产能已达到10万个单位,其中60%的产能分配给了V9产线。V10 NAND将支持更高的存储层,确保英伟达能在相同的CMX模块中配备容量更大的SSD。
目前,每个用于AI服务器的上下文内存存储可容纳576块SSD,总容量高达惊人的9600TB。虽然这有可能消除英伟达GPU的数据瓶颈,但代价是造成供应短缺,这几乎意味着其他公司和消费者将陷入困境,因为他们将不得不以高昂的价格来满足自己微不足道的存储需求。
最初,AI热潮引发了DRAM短缺,导致价格飙升,而这一剧变已经对存储市场产生了不利影响。需要提醒的是,这仅仅是个开始。随着AI GPU将越来越多的临时上下文数据卸载到CMX,英伟达的贪婪需求将呈指数级增长。
据报道,用于CMX的存储芯片将从3500万TB增长到2026年的超过1亿TB,而三星的NAND出货量预计将达到2.5亿TB,巩固其作为英伟达潜在主要供应商的地位。从好的方面看,在与亏损抗争多年后,这家韩国科技巨头终于找到了自己的使命,其2026年的利润据称将超过过去40年的累计收益。
随着这一行业转变,NAND制造商已经意识到有利可图的合作关系在哪里,但这也正是整个行业问题开始加剧的根源。从三星与英伟达的联盟中我们唯一能看到的一线希望,是V11 NAND的加速研发,其最高堆叠层数达到前所未有的500层,比V10多了100层,而V10的存储密度已经比V9的286层高出50%。
这项技术可用于大规模生产容量更大、成本更低的消费级SSD,但这只有在三星选择分配产能时才有可能实现。从目前的情况来看,满足行业其他部分的需求似乎只是一个遥不可及的梦想。



