4B 决策模型替代大模型做 agent 选择，成本降 81-89% 还快 2.5 倍
alex_verem · x · 2026-10-19
伊利诺伊大学、普林斯顿与 Google 研究者发布 JevAgentHarness 论文：LLM agent 每步都调用大模型，但多数调用其实只是选择题（选哪个工具、是否停止等）。他们让开源 4B 决策模型 AgentDecision-4B 接管这些选择，只在置信度低于阈值时才请求大模型。
关键发现：
- 在与训练数据不同的任务上，agent 解题率达 91.5%，甚至超过被模仿的闭源模型 Jev（82.0%）
- 类似训练数据的任务成本降 81-89%，速度快至 2.5 倍，成功率差距在 3 点以内
- 小模型中位响应 31ms，对比大模型调用 809ms
- 标准榜单排名会排错： isolated 测试最高分（92.2%）的模型真跑 agent 只解出 69.5%；未拟合置信阈值时直接委托会让成功率掉 19 点
原因是 4B 模型从「agent 自身犯错后的状态」学习，而标准基准几乎不含这类状态。局限：编程 agent 只省 7-10.5%；任务规则突变时小模型仍自信决策，成功率跌到 3%（在新规则上重训可从 76.5% 提到 95.3%）。起最大作用的训练步只花了 2.2 GPU 小时，模型、数据与 harness 将开源。
所属事件:研究：4B 小模型做 agent 决策，成本降八成还更快(2 条相关)→
「编程与Agent」频道最新
- Go 桌面应用框架 MyGo 发布:纯 Go 原生 UI,单二进制仅 7MB — dotey · 2026-10-19
- MOSS-Image 生态周报：Spectrum 加速 12 步 30 秒出图、多款 ComfyUI 节点与 LoRA — optimisticalish · 2026-10-19
- 纯 AI 产出 44 秒宣传片:一条角色设定图跑通全流程 — azed_ai · 2026-10-19
- 用 Claude Code 五步搭建你自己的算法交易分析器 — mdancho84 · 2026-10-19
- 验证 MCP 漏掉 9000mg/日用药错误，开发者公开征集对抗测试者 — Practical_Green5775 · 2026-10-19
- 团队发布印度首个股票研究 MCP，覆盖 5600+ 只 NSE/BSE 证券 — viewmind · 2026-10-19