Glean 揭秘企业模型路由:降本 75% 并拥抱开源权重模型

Latent Space · rss · 2026-08-19

随着模型成本上升和开源权重模型(如 Kimi, Qwen)的流行,模型路由成为企业 AI 部署的关键。企业级 AI 平台 Glean 详述了其路由策略:通过自动模式为不同任务动态选择模型,仅此一项就使其比 Claude Code 便宜 4 倍(单任务 $0.45 vs $1.84)。Glean 还引入了代理搜索模型 Waldo,在将任务交给前沿模型前预处理数据,降低 50% 延迟和 25% token 消耗。文章指出,过去三个月因成本压力,企业对开源模型的兴趣激增,不再愿意依赖单一供应商。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →