Furiosa AI正全力准备将其2nmStork”芯片的产量翻倍至50,000颗,旨在打破英伟达(NVIDIA)在推理领域的垄断地位。

Furiosa-AI-Chip.jpeg

Furiosa AI宣称其第三代“Stork”芯片采用2nm工艺,将拥有市场上最佳的推理能力,并计划于明年将其第二代芯片的产量翻倍,以打破英伟达的垄断。

早在5月Furiosa AI便为其RNGD(Renegade)平台发布了名为Stork的第三代AI加速器芯片。该芯片基于博通(Broadcom)2nm技术,这家初创公司声称,凭借领先的能效和最低的每词元成本,它将挑战英伟达

据行业消息人士于13日透露,Furiosa AI计划在明年将其专门用于大语言模型推理的第二代芯片“Renegade(RNGD)”的产量大幅提升至40,00050,000颗。这相较于今年20,000颗的产量增长了一倍多。这是这家韩国领先AI半导体公司明年的生产计划首次得到确认。

目前,采用2nm工艺的第三代芯片已进入量产,预计2026年将产出20,000颗。但Furiosa AI为其AI加速器制定了更宏大的计划,其中包括明年将芯片产量翻倍至4万5万颗。该公司表示,AI推理需求的迅速激增是他们决定将产量翻倍的原因,基于近期的表现,他们预计需求将十分巨大。

Furiosa AIStork芯片——颠覆AI推理领域的2nm产品

随着智能体AI需求的持续高涨,下一代设计将全力聚焦AI推理领域。Furiosa AI的第三代AI加速器具备以下亮点:

  • 该平台将2nm计算技术与HBM4/4E内存相结合,旨在于大规模AI计算集群中实现高带宽、机架级网络连接。

  • 其架构针对要求严苛的推理工作负载进行了优化,专注于高带宽数据传输,能够提供比当前最高效的GPU更高的每瓦性能和更大的词元密度。

  • 它基于Furiosa现已量产的当前一代RNGD芯片构建,客户包括三星SDS(Samsung SDS)LG AI研究院(LG AI Research)

根据Furiosa AI分享的部分细节,Stork AI芯片平台将采用先进的2nm计算芯片和HBM4/E内存标准。该公司正与博通合作,利用先进的封装能力,将多个硅芯片整合到一颗高性能的AI芯片中。

在预告图中,Furiosa AI展示了这款第三代AI芯片,它拥有12HBM4/E内存位点、两个大型计算芯粒(2nm)和两个I/O控制器。如果Furiosa使用12-Hi、每堆栈36GB的内存模块,总容量将达到432GB

除了计算架构,Furiosa AI还将利用博通的以太网和PCIe IP,从而在庞大的AI计算集群中实现更高带宽的机架级网络连接。该AI芯片针对训练后采样等要求严苛的现实世界AI工作负载进行了优化,高带宽是一个关键焦点,这也是该公司采用最新HBM4/E标准的原因。

该公司声称,其对带宽的侧重(而非GPU所需的线程管理)将有助于其提供比现代GPU设计更高的能效和更高的词元吞吐量。此外,该公司表示,其软件栈允许开发人员在满足吞吐量和延迟要求的同时,快速部署新的AI模型。

Furiosa的SDK利用通用编译器,自动将高级PyTorch代码映射到芯片上。对于需要更精细控制的开发人员,Furiosa的虚拟ISA提供了一种声明式编程模型,能够在没有传统GPU编程的非确定性复杂性的情况下提供硬件控制。

Furiosa联合创始人兼首席执行官六月白(June Paik)表示:“将博通的基础设施能力与Furiosa的张量收缩处理器架构及其行业定义的软件栈相结合,使我们能够超越芯片层面,为词元工厂时代提供全面的解决方案。”

在上市时间方面,Furiosa AI的第三代加速器预计将在2028年上半年开始提供样品,并将准备好满足下一代AI数据中心的计算需求。


文章标签: #AI推理 #nm芯片 #韩国AI #英伟达 #算力芯片

负责编辑

  菠萝老师先生 

  让你的每一个瞬间都充满意义地生活,因为在生命的尽头,衡量的不是你活了多少年,而是你如何度过这些年。