NVIDIA 开源 NeMo Switchyard:Agent 自动模型路由库

NVIDIA Developer · youtube · 2026-08-27

NVIDIA 推出开源模型路由库 NeMo Switchyard,旨在解决单一模型无法胜任所有任务的问题。该库可自动将 Agent 的每个查询路由到最合适的模型(支持闭源/开源、云端/本地混合),无需训练或配置。视频中介绍了内置路由算法的设计决策(评估步骤、跨轮次状态管理)、以及如何作为独立服务或嵌入式库运行,并支持开发者自定义路由策略以平衡准确度、成本和延迟。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →