Manifest 弃用 LLM 路由器:单模型方案更可靠

Manifest 团队宣布将彻底关停其 LLM 路由器功能,决定回归使用单一且经过验证的模型。该路由器原计划根据请求复杂度动态分配模型以降低成本,但在历经 4 个月、覆盖 7000 名用户的实测后,团队发现仅凭 prompt 根本无法准确判断请求的复杂度。最终结论指出,路由系统带来的成本节省非常有限,且增加了系统复杂性,坚持使用单一模型才是当前最可靠的选择。

2026-07-31 ~ 2026-08-01 · 3 条相关