UIUC 开源 LLMRouter 统一大模型路由

UIUC 团队发布开源库 LLMRouter 与配套基准 xRouteBench,旨在解决生产环境中大模型路由选择缺乏统一度量的问题。LLMRouter 打包了 16 种以上路由实现,并将 LLM 路由形式化为序列决策过程,为路由的开发、评估和部署提供统一基础设施,xRouteBench 则用于标准化评估各类路由方案。

2026-08-14 ~ 2026-08-16 · 2 条相关