Manifest弃用LLM路由器:单一模型更可靠,成本节省有限

zats · x · 2026-08-01

Manifest公司宣布弃用其LLM路由器,认为对大多数用例而言,坚持使用单一经过验证的模型是最佳选择。该路由器于3月推出,6月弃用,9月1日彻底关闭。路由器将请求分为简单、标准、复杂和推理四个复杂度等级,旨在通过为简单任务调用便宜模型来降低成本。然而,经过4个月、7000名云用户的使用,结果好坏参半,并引发大量GitHub问题。主要问题在于复杂度难以准确分类,路由决策本身带来延迟和额外成本,且模型能力重叠使得路由收益有限。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →