在今天发布的MLPerf v5.1人工智能推理基准测试中,英伟达(NVIDIA)的Blackwell Ultra GB300超微半导体(AMD)的Instinct MI355X以无可匹敌的AI性能惊艳亮相。这两款产品分别是两家厂商最快的AI解决方案,自然成为全场关注的焦点。

Cover Image

在DeepSeek R1(离线)测试中,英伟达GB300表现碾压级优势:72颗GPU配置下相比GB200性能提升45%,8颗GPU配置下提升44%,基本符合该公司此前承诺的50%性能提升预期。

在DeepSeek R1(服务器)测试中,72颗GPU配置下性能增益为25%,8颗GPU配置下增益为21%。在Llama 3.1 405B(离线)测试中,首次出现了超微半导体Instinct MI355XGB200的对比(该测试未提交8 GPU配置数据)。全新AMD Instinct平台在此实现了27%的显著性能提升。

在Llama 2 70B(离线)测试中,Instinct MI355X展现出强劲性能:64芯片配置下每秒生成648248个token,32芯片配置下达350820 token/秒,8芯片配置下为93045 token/秒。其8芯片配置性能达到英伟达GB200(x8)的2.09倍英特尔Arc Pro B60虽然仅获得3009 token/秒的成绩,但其价值主张明显区别于Blackwell UltraAMD Instinct系列等纯数据中心/HPC芯片。

英伟达同时公布了其Blackwell Ultra GB300平台在各项基准测试中创下的全系列记录:在推理性能方面,Blackwell Ultra首次亮相MLPerf即创下推理新纪录:在离线和服务器测试中分别较Hopper平台领先4.7倍5.2倍

预计在下一轮MLPerf测试中,英伟达超微半导体英特尔将进一步优化现有平台,从而在这些基准测试中获得更高分数。


文章标签: #AI芯片 #性能测试 #英伟达 #AMD #MLPerf

负责编辑

  菠萝老师先生 

  让你的每一个瞬间都充满意义地生活,因为在生命的尽头,衡量的不是你活了多少年,而是你如何度过这些年。