英伟达（NVIDIA）的Blackwell GPU持续获得大规模优化，使得DeepSeek V4 AI模型的每词元成本降低了5倍。随着DeepSeek V4 AI模型在Blackwell GPU上持续优化，每词元成本较此前实现5倍提升，英伟达的“每词元成本”叙事迎来重大进展。
“每词元成本”是AI总拥有成本（TCO）的基础指标，正如英伟达几个月前强调的那样。如今，该公司在DeepSeek V4上实现了有史以来最低的词元成本。
今天，英伟达宣布其全栈推理软件为其硬件栈（如Blackwell GB200与GB300）带来了进一步优化，提升了性能，使其比以往更出色。借助最新的优化，英伟达的Blackwell平台在DeepSeek V4发布仅一个月后，就将词元成本降低了最高5倍。
领先的企业和推理服务提供商已在其基于英伟达Blackwell的平台上认可了这些成果：
Baseten 使用英伟达的 TensorRT-LLM 开源库，在 Blackwell GPU 上为推理、编码和长上下文工作负载提供 DeepSeek V4 Pro 服务，并应用了专有的运行时优化，每秒输出的词元数最多提升了 50%。
Cognition 使用英伟达的 Dynamo 推理框架来管理推理 GPU，为其团队提供了一条现成的路径来扩展强化学习工作负载，而无需从头构建该基础设施。
Deep Infra 使用英伟达的推理软件栈，从零开始就在 Blackwell 上高性能地服务于前沿开源模型，包括 DeepSeek V4。
Together AI 使用 Blackwell 上的英伟达 TensorRT-LLM，帮助 Cursor 加速从模型优化到生产端点的路径，从而实现其实时编码体验。
更低的词元成本源于将各项优化转化为英伟达GPU上的系统级性能。英伟达解释其推理软件栈通过连接三个层次来实现这些收益：
生产运维：协调分布式服务、编排、自动扩缩容和内存管理，使推理能够在正确的计算和存储资源上运行。
应用加速：在高性能下运行模型，同时为开发者提供调优和定制的空间，利用覆盖计算与通信、内核融合等运行时优化。
基础设施接入：暴露英伟达GPU、网络、内存和系统能力，而无需开发者直接管理每一条设备指令集或数据传输协议。
这些层次全部集成在完整的系统中，从而放大了优化效果。另一方面，英伟达的 NVLink、NVFP4、多词元预测（Multi-Token-Prediction）等技术也带来了显著的性能提升，共同实现了总计 20倍 的吞吐量提升。
英伟达的 Blackwell GPU 在持续的全栈推理优化驱动下，于 DeepSeek V4 发布仅一个月后，便将每词元成本大幅降低了 5倍，进一步巩固了“每词元成本”作为AI总拥有成本关键指标的地位。
通过将生产运维、应用加速和基础设施接入无缝集成，并借助 NVLink 和 NVFP4 等技术，Blackwell 实现了倍增的系统级收益，吞吐量最高提升 20倍。包括 Baseten、Cognition、Deep Infra 和 Together AI 在内的领先推理服务提供商，已开始利用这些进步，为推理、编码和大规模工作负载提供卓越性能，进一步巩固了英伟达在高效AI推理领域的主导地位。
