UIUC 推出 LLMRouter:大模型路由统一基础设施与基准

UIUC-CS · hf · 2026-08-14

UIUC-CS 团队发布了 LLMRouter,旨在为大语言模型(LLM)路由的开发、评估和部署提供统一的基础设施。

该项目将 LLM 路由形式化为一个序列决策过程,并提供:

目标是方便开发者和研究人员对比并优化具有成本效益的模型选择方案。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →