英伟达Vera Rubin的Agent吞吐暴涨最高提升30倍，却不只靠GPU | Hot Chips 2026

在Agent推理上，英伟达又把性能往前推了一大步。Hot Chips 2026期间，英伟达披露了Vera Rubin NVL72最新Agent工作负载测试结果：在DeepSeek V4-Pro、单用户每秒160 Token的测试条件下，相比GB300 NVL72，每兆瓦吞吐最高提升30倍。 但比30倍更值得关注的是，英伟达这次提升Agent推理效率，已经不再只依赖一颗更快的GPU。 面对长上下文、低延迟Token生成、工具调用和数据交互同时出现的Agent工作负载，英伟达正在把一次推理拆成不同类型的计算任务：Vera Rubin NVL72承担大规模模型计算，Groq 3 LPX专攻低延迟Token生成，Vera CPU处理工具编排、代码执行和数据处理，Spectrum-X则负责把这些计算、数据和存储资源连接起来。 换句话说，Agent工作负载让性能问题不再停留在一次模型计算内部，而是沿着

原文：雷峰网