起初是GPU,接着是内存,如今轮到了CPU——由于智能体人工智能(Agentic AI)的蓬勃发展,这些关键组件正受到严重短缺的影响。

Cover Image

随着智能体人工智能席卷科技市场,它也给云服务提供商和芯片制造商带来了困扰,他们难以满足终端日益增长的需求。市场尚未从一种短缺中脱身,我们却又面临着与一种新科技组件相关的短缺,那就是CPU

半导体分析公司(Semianalysis)迪伦·帕特尔(Dylan Patel)报道,最新情况是,GPU已不再是云服务提供商的瓶颈,这一角色现已转移到CPU上。此前,用于人工智能GPU主要执行简单的推理任务,随着新模型的出现,这些任务也在演进。

但随着模型数量的激增,以及需求呈指数级增长,智能体人工智能现在被用于调用数据库,并处理一些严重依赖CPU的任务,例如物理计算模拟仿真。因此,这些对数据库的调用以及更多CPU密集型任务,导致云数据中心的CPU使用量急剧上升。

虽然GPU在为人工智能群体服务的云服务器中一直占据主导地位(例如,每个机架上的8个GPU运行在1个CPU上),但这种差异现在正在缩小,GPUCPU在服务器中的比例趋于接近。

这种巨大的需求已经导致GitHub等数据库出现不稳定。多位用户报告了服务中断,而且大多数情况下提交操作都会失败。

据报道,这背后的原因是CPU需求如此之高,以至于云服务提供商已经耗尽了他们全部的CPU供应。迪伦·帕特尔指出,亚马逊(Amazon)微软(Microsoft)已将他们全部的CPU供应出售给了OpenAIEntropic人工智能公司。情况如此糟糕,尽管亚马逊CPU服务器数量同比增长了两倍,但他们仍然耗尽了供应,目前无法满足未来的需求。

此外,由于OpenAIx86架构转向Arm架构,Arm CPU受到的影响更为严重。这一转变是因为在短缺发生之前,亚马逊有更多的CPU资源可用,而过去x86的供应量较低,促使各公司将代码库从x86移植到Arm。这一举措现在正沉重打击着人工智能公司。

那么,这将把科技市场引向何方?答案是一场巨大且迫在眉睫的CPU短缺。云CPU的短缺将导致其他供应商加大生产力度以满足需求。

这不仅限于Arm芯片,也包括x86芯片。AMD英特尔(Intel)将其大部分x86芯片供应给云服务提供商,而英伟达(NVIDIA)也在加速推出其由多个芯片和大量DRAM组成的Vera CPU机架。是的,DRAM的供应仍将高度集中于人工智能领域,而现在,CPU也将高度集中于人工智能领域。这意味着,由于CPU优先供应人工智能领域,专用于消费级和企业级市场的生产线可能会受到不利影响。这将导致供应短缺、价格上涨,谁出价最高,谁就能最先获得芯片。


文章标签: #人工智能 #CPU短缺 #云计算 #智能体AI #芯片危机

负责编辑

  菠萝老师先生 

  让你的每一个瞬间都充满意义地生活,因为在生命的尽头,衡量的不是你活了多少年,而是你如何度过这些年。