用决策模型做工具选择:50 个工具缩到 3 个,token 省 47%、提速 22%
rajistics · x · 2026-11-13
作者受 Michelle Chen 在 aiDotEngineer 的演讲启发,实测将决策模型(decision models)用于编码 agent 的工具选择环节。
- 测试场景:从 50 个 GitHub 工具中为任务选出所需的 3 个
- 结果:token 消耗减少 47%(229K → 121K),速度提升 22%(18.2s → 14.2s)
- 工具选择本身仅耗时 0.48 秒(10 个问题一次调用),选择器开销已计入
- OpenHands 的 John-Mason 已在 SDK 中加入支持
这说明用小型决策模型先做工具筛选,能显著降低编码 agent 的上下文与延迟成本。
「编程与Agent」频道最新
- 开发者观察:Fable 5.2 的设计品味已超过 Opus 5.5 — adonis_singh · 2026-11-14
- CodeRabbit 推出 AI 代码安全审查:深扫仓库、自动修漏洞、压噪音 — PrajwalTomar_ · 2026-11-14
- 一人用 MiniMax H3 做科幻剧:物体尺寸失控的解法是改写提示词 — BekesHarcos · 2026-11-14
- Elvis Saravia 分享免费 AI 论文工具:可对话论文并接入 MCP — omarsar0 · 2026-11-14
- Rust 开源刺绣软件 ZigZag 走红:AI agent 可经 MCP 直接设计绣花 — simpsoka · 2026-11-14
- Google Antigravity 上线 Gemini 4 Hydrogen 与 Orchestrator 混合调度 — minchoi · 2026-11-14