模型成本一变就重排 agent 流水线?多阶段路由信号怎么选

Katleen_Cole · reddit · 2026-09-11

Reddit 用户讨论新模型发布改变能力/成本权衡后,如何重新设计长时运行 agent 的模型路由。其流水线包含规划、工具调用、文档/图像理解、重试与最终验证,不想默认每一步都走同一个模型。

他正在度量的指标包括:任务成功率、延迟、上下文大小、重试率、总 token 成本,并对较小模型的 KV-cache 行为与多模态步骤做单独测试。帖子征集:大家用什么信号决定哪些阶段必须留在最强模型上?

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →