NVIDIA 开源 NeMo Switchyard:智能体动态路由分发器
Sam Witteveen · youtube · 2026-08-11
NVIDIA 发布了全新的开源库 NeMo Switchyard,旨在为 AI 智能体运行时的各个步骤动态选择最合适的底层模型。
该工具支持根据请求信号、智能体状态、工具调用结果以及模型的能力、成本和延迟等维度进行路由决策。它提供了多种路由算法,包括 LLM 分类器路由、级联路由和可训练的预填充路由器,并内置了可观测性工具,帮助开发者将日常任务交由高效模型处理,而在需要时切换至前沿模型,从而在单一智能体系统中整合各类模型。
所属事件:英伟达开源Nemotron模型与智能体路由工具(36 条相关)→
「编程与Agent」频道最新
- Agent跑十次成功率骤降:论文揭示计算机任务可靠性陷阱 — xwang_lk · 2026-08-12
- Cursor 被曝即将推出 Composer 3,社区期待评测数据 — kimmonismus · 2026-08-12
- 基于 x402 协议实现智能体反向查询来电号码 — MurrLincoln · 2026-08-12
- 30B小模型微调后写代码证明,击败50倍体量大模型 — fhuszar · 2026-08-12
- OpenHands 支持 NVIDIA Nemotron,推动开源组合式编码智能体 — rajistics · 2026-08-12
- Coldtea发布自动驾驶软件ADE,集成编码Agent与监控 — EXM7777 · 2026-08-12