NVIDIA 讲透 Agent 时代的后训练算力
NVIDIA Blog · rss · 2026-07-17
NVIDIA 这篇长文的主线是：**agentic AI 时代的关键，不只是推理成本，更是持续后训练（post-training）带来的算力循环**。 ### 主要观点 - Agent 不再是一次性回答问题，而是要持续规划、调用工具、处理失败并适应环境变化，因此后训练会变成“不断循环”的工作流。 - NVIDIA 认为，衡量这类系统的核心指标不只是 **cost per token**，还要看 **intelligence per dollar**：即训练出并维持一个“值得被服务”的模型到底要花多少钱。 - 后训练本质上是 RL/奖励驱动的计算闭环：大量 rollout、验证、权重回传都需要高并发编排和高 GPU 利用率。 ### 产品与平台 - NVIDIA 用 **NeMo Gym** 和 **NeMo RL** 把训练环境与分布式后训练从“研究代码”变成可复用基础设施。 - 文中以 **Nemotron 3 Ultra** 为例，称其是一个 550B 参数的 MoE 开源权重模型，在 **SWE-bench verified** 上拿到 **71.7%**，能修复约 7 成真实开源软件 bug。 - **Blackwell** 被描述为让频繁后训练在经济上可行；**Vera Rubin** 则进一步把“更多 rollout、更多环境、持续循环的 post-training”作为设计目标，并宣称训练大模型可用比上一代更少的 GPU。 ### 落地案例 - **Prime Intellect**：在 Blackwell 上持续后训练 frontier 开源模型，并用 NVIDIA Dynamo 做推理编排。 - **Perplexity**：其 RL 后训练栈可在数百块 GPU 上异步运行，并用 RDMA 在训练/推理节点间快速同步权重，最终服务的是 post-trained 的 Qwen3 235B 模型。 - **Together AI**：把监督微调、RL、DPO 做成服务，运行在 NVIDIA 平台和 kernel 库之上，并计划利用 Vera Rubin 扩展。