相比中国的AI加速器出货量，华为正在慢慢缩小与英伟达（NVIDIA）的市场差距，但字节跳动（ByteDance）、阿里巴巴（Alibaba）和腾讯（Tencent）等中国顶级科技企业已经明确表明，这家顶级图形芯片制造商仍将是它们的首选，原因在于GPU的原始性能和CUDA支持。
一份新报告指出，这些公司已订购超过300万块英伟达RTX PRO 5500，用于训练其AI模型，因为B300因美国禁令而被列入黑名单。可惜的是，即便是英伟达也无法保证完成全部订单。尽管发货可能出现延迟，中国企业基本上已经接受了一个现实：这些GPU没有更好的替代品。
据报道，英伟达已透露其只能满足RTX PRO 5500订单的5%至10%，但这并未阻止中国企业蜂拥下单。
据路透社（Reuters）报道，字节跳动、阿里巴巴和腾讯下的订单总价值估计达350亿美元，远远超出该公司所能供应的数量。鉴于英伟达的B300芯片未获美国批准出口中国，而H200又受到许可条件限制，显而易见的选择本应是华为的昇腾（Ascend）系列，以规避不必要的出口麻烦。
然而，英伟达在CUDA支持和原始性能两方面的优势，解释了华为为何不得不采用多芯片堆叠方案来弥补这些短板。RTX PRO 5500对中国企业来说是个稳妥之选，因为单块GPU就配备了高达84GB的GDDR7 ECC显存、21,760个CUDA核心，以及1.398TB/s的显存带宽。
从纸面参数看，华为的昇腾950PR是更优选择，拥有128GB的HiBL 1.0显存和1.4至1.6TB/s的显存带宽，功耗也与RTX PRO 5500大致相当，但软件支持与硬件同样重要。据报道，英伟达告知合作伙伴，他们可能只能拿到5%至10%的供货，而来自中国客户的总订单已超过600万块。
尽管RTX PRO 5500的性能不及英伟达的B300和H200，但中国企业并不介意为此豪掷数十亿美元，因为它们希望利用这款GPU进行AI推理。由于推理通常比在超大规模数据集上训练模型所需的算力更低，它便成了字节跳动、阿里巴巴和腾讯等企业的理想武器。
英伟达已有9年历史的Tesla V100虽然已经停产，人气却依然上涨，其32GB的HBM2显存足以在更实惠的设备上运行中型大语言模型。可惜的是，这波需求激增正推高该GPU的价格，二手市场上每块已溢价200美元。
