据报道,英特尔已将其Gaudi 3机架级解决方案与英伟达技术栈集成,利用自身AI芯片结合Blackwell架构,实现了显著的性能升级。

Cover Image

在近日举行的OCP全球峰会上,英特尔展示了搭载英伟达Blackwell技术的混合AI服务器,宣称可提供卓越性能。行业分析机构SemiAnalysis透露,英特尔计划推出新型Gaudi 3机架级系统,该配置将整合英伟达Blackwell B200 GPUConnect-X网络技术。

这一混合架构采用独特的工作负载分配方案:英特尔Gaudi 3 AI芯片专注处理推理任务中的解码环节,而B200则负责计算密集的预填充阶段。由于Blackwell GPU在全上下文大矩阵乘运算中性能出众,如此分工可谓相得益彰。

在该机架级方案中,Gaudi 3重点发挥其内存带宽与基于以太网的横向扩展能力。网络层面采用英伟达ConnectX-7 400GbE网卡博通Tomahawk 5 51.2Tb/s交换机确保全互联架构。每个计算托盘配备两颗至强CPU、四颗Gaudi 3 AI芯片、四张网卡及一块英伟达BlueField-3 DPU,整机架共集成十六个计算托盘。

英伟达主导的生态中,Gaudi平台正以高性价比解码引擎的定位寻求突破。官方宣称该配置在小型密集模型上的预填充性能较纯B200基准提升1.7倍,但该数据尚待独立验证。

尽管混合架构前景可观,Gaudi AI平台仍受制于不成熟的软件生态。加之Gaudi架构将于数月后逐步退市,此机架方案能否获得如替代方案般的主流应用仍存疑问。


文章标签: #英特尔 #英伟达 #AI芯片 #混合架构 #Gaudi3

负责编辑

  菠萝老师先生 

  让你的每一个瞬间都充满意义地生活,因为在生命的尽头,衡量的不是你活了多少年,而是你如何度过这些年。