微软论文：给路由器看会话历史，多轮 Agent 任务成功率多提 3.3 分
dair_ai · x · 2026-10-16
微软研究团队发布论文《Whose Turn Is It? Context-Guided Model Routing for Stateful Agents》，研究多轮 Agent 场景下用户回合级的成本感知模型路由。
- 核心做法：在廉价模型与昂贵模型之间路由 Agent 回合时，把会话历史也给路由器看，而不是只看当前请求。在相同卸载率下，读历史的路由器在多轮电子表格 Agent（Sheet Copilot / SpreadsheetBench 2）zero-shot 测试中多通过 3.3 个百分点的任务，且对所有模型组合都有收益。
- 缓存成本分析：每次切换模型都会使 prompt 缓存失效。从贵模型切回便宜模型只需两次调用即可摊回缓存成本；而从便宜切贵的切换在其测试条件下始终回不了本。
- 另一个反直觉发现：便宜模型的单任务成本优势会随会话变长而从 6.8x 缩小到 3.2x，成本取决于执行动态而非仅 token 价格。
结论：Agent 路由是一个序贯决策问题，有效策略必须考虑会话早期发生了什么以及模型切换的非对称成本。
「编程与Agent」频道最新
- 开源 VibeZero:用 agent 一把生成整套可部署的 vibe coding 平台 — cnakazawa · 2026-10-16
- 蚂蚁联合清华开源 Realtime-Venus:实时多模态 Agent 替代 OpenAI Realtime API — aigclink · 2026-10-16
- 开发者自述：我曾是 o1 pro 的「人肉 harness」 — timigod · 2026-10-16
- JevAgentHarness 论文：4B 小模型替 LLM 做 Agent 决策，更省更准 — youjiaxuan · 2026-10-16
- 吐槽:编码 agent 动辄开出 3 个堆叠 PR,合并体验太糟 — holdenmatt · 2026-10-16
- Google 团队用序列拍卖构建去中心化 LLM 多智能体工作流 — _onionesque · 2026-10-16