普林斯顿与谷歌论文：4B 决策模型可替 LLM 拍板，agent 成本降 89%
rohanpaul_ai · x · 2026-10-19
UIUC、普林斯顿与谷歌的论文提出 JevAgentHarness：agent 每步调用大模型，其中大多数其实只是「多选题」（如下一步调哪个工具）。
核心发现
- 在孤立问题上最准的决策模型，放到真实 agent 任务中只能解决 69.5% 的任务；无阈值直接把工具选择全交给小模型会使成功率下降 19 个百分点。
- 关键做法：快速决策模型回答每个多选题，只有在其置信度超过阈值（该阈值根据 agent 自身运行轨迹拟合）时才采纳，否则交回大模型。
- 作者还训练了开源的 AgentDecision-4B，用 agent 实际到达的状态（包括犯错后的状态）做训练，解决了 91.5% 的任务，而 JEV 为 82.0%。
- 在与训练数据类似的任务上，这种方式让 agent 便宜 81.1%–89.0%，最快提速 2.5 倍，成功率损失不超过 3 个百分点。
论文、数据与 harness 将开源发布。可操作的要点：想把例行决策交给小模型，就用你自己 agent 的运行数据来训练它并拟合置信度阈值。
所属事件:研究称 4B 小模型可替 LLM 拍板，agent 成本降近九成(3 条相关)→
「编程与Agent」频道最新
- AI 编程靠谱审查环：双 agent 互查加自动检测再人工兜底 — TheZachMueller · 2026-10-19
- SwiftGG 调研 100 位 Apple 开发者：95% 几乎每天用 AI — op7418 · 2026-10-19
- Matt Pocock 将在 React Advanced 演讲:AI 时代为何基础更重要 — mattpocockuk · 2026-10-19
- Obsidian 看板插件 2.5.0:4,888 张卡片从 9 秒到 3 秒打开 — dSebastien · 2026-10-19
- RWA Pipe MCP 上线:让 AI Agent 查询链上代币化资产与 TVL 数据 — modelcontextprotocol · 2026-10-19
- Census Trade MCP 发布:让 AI Agent 直接查询美国人口普查局贸易数据 — modelcontextprotocol · 2026-10-19