大型语言模型对高带宽内存需求的增长,正是苹果及其Mac Studio产品线获得显著关注的原因,同时也瞄准了工作站市场。该市场的消费者要求最顶级的原始计算和图形性能,但又希望设备本身不占用任何空间。不幸的是,由于苹果试图应对DRAM短缺,其将损失相当一部分收入。一份新的报告指出,更新后的Mac Studio不会像预期那样早发布。

Cover Image

由于属于Mac Studio的旧款M3 UltraM4 Max选项已无法获得,运行本地大型语言模型的唯一替代方案是M5 Max MacBook Pro,但其统一内存容量有限。

此前的一份报告称,预计到2027年DRAM制造商仅能满足总需求的60%。尽管苹果正在抢占内存供应以挤压竞争对手,但这并不一定意味着其高端产品(如可提供高达512GB统一内存的M5 Ultra Mac Studio)将有充足的出货量。

马克·古尔曼(Mark Gurman)最新的“Power On”通讯中,这款性能极其强大的工作站更新预计要到10月才会发布。此前,这位彭博社记者曾表示,M5 Ultra原定于2026年上半年推出,但最新的报告谈及了延迟,苹果正面临一个不同的难题。

对于那些想知道库比蒂诺这家公司能否通过提供M3 UltraM4 Max选项来维持其本地大型语言模型收入的人来说,这是另一个问题。在撰写本文时,苹果在线商店中所有属于Mac Studio256GB统一内存选项均已缺货。即使偶然出现可以下单的可能性,该公司也很可能会取消订单,并提供M5 Ultra作为替代。

目前,没有其他强大的硬件替代品可以运行需要更大内存的本地大型语言模型。英伟达(NVIDIA)的RTX PRO 6000仅限于96GBGDDR7显存,价格在6500美元至9500美元之间。目前,那些想专门为本地大型语言模型购买Mac的用户可以选择128GB统一内存版本的M5 Max MacBook Pro,但即便如此,也别指望数十亿参数级别的模型能流畅运行。

尽管有演示表明,iPhone 17 Pro仅凭8GB内存就能在本地运行一个4000亿参数的模型,但速度仅为0.6t/s,这显然不可行,即使运行量化版本也是如此。简而言之,苹果将因更新版Mac Studio的延迟而错失相当大的一块市场蛋糕。


文章标签: #苹果 #MacStudio #M5Ultra #DRAM短缺 #本地LLM

负责编辑

  菠萝老师先生 

  让你的每一个瞬间都充满意义地生活,因为在生命的尽头,衡量的不是你活了多少年,而是你如何度过这些年。