UIUC 推出 LLMRouter:统一 LLM 路由开发评估框架

adnan_hashmi · x · 2026-08-28

UIUC 等高校联合发布了 LLMRouter,这是一个用于开发、评估和部署 LLM Routers 的开源统一基础设施。该框架旨在解决没有单个模型能在所有查询和预算约束下都最优的问题。它将以前不兼容的路由实现(如简单的质量预测器、成本感知级联、基于图的路由等)统一在一个共享的质量-成本目标下,并提供了 xRouteBench 用于公平评估。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →