NVIDIA 开源 NeMo Switchyard:智能体动态路由分发器

Sam Witteveen · youtube · 2026-08-11

NVIDIA 发布了全新的开源库 NeMo Switchyard,旨在为 AI 智能体运行时的各个步骤动态选择最合适的底层模型。

该工具支持根据请求信号、智能体状态、工具调用结果以及模型的能力、成本和延迟等维度进行路由决策。它提供了多种路由算法,包括 LLM 分类器路由、级联路由和可训练的预填充路由器,并内置了可观测性工具,帮助开发者将日常任务交由高效模型处理,而在需要时切换至前沿模型,从而在单一智能体系统中整合各类模型。

所属事件:英伟达开源Nemotron模型与智能体路由工具(36 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →