专题 · FULL STORY

英伟达Switchyard:Agent动态路由降本实测

针对常驻AI智能体面临的成本与性能权衡难题,英伟达推出Switchyard模型路由器,允许任务执行中途动态切换底层模型。随后LangChain实测证实,该方案能有效降低智能体运行成本超70%。

2026-08-12 ~ 2026-08-12 · 2 集 · 5 条

第 1 集 · LangChain实测智能体模型路由可降本超70%(2026-08-12,2 条)

LangChain使用包含145个多步骤任务的Deep Agents评测套件,测试了英伟达的开源模型路由库Switchyard。实测发现,在智能体执行任务时,仅有约7%的复杂调用需要依赖前沿大模型,其余93%的任务交由30B等小模型即可完成。这种混合路由策略在保持93%可用性的同时,成功将运行成本降低了70%至74%。

第 2 集 · 英伟达推出Switchyard路由器:Agent任务中途换模型降本(2026-08-12,3 条)

针对企业运行常驻AI Agent面临的成本与性能权衡难题,英伟达推出了Switchyard router解决方案,允许在任务执行中途动态切换底层模型。Ramp团队在SWE-Bench上对该阶段路由器进行了编码智能体实测,结果显示,采用该路由库的智能体在性能保持不减的前提下,成本大幅下降59%,耗时减少32%,有效解决了全量依赖昂贵旗舰模型的痛点。