JIT 式执行让 9B Agent 快 2.53 倍、省 65% token 且不掉分

AggressiveOrder2584 · reddit · 2026-10-24

开发者分享 Solar Agent 的优化实验:不改模型,而是改 agent 的运行方式,用类似 JIT 的执行系统减少不必要的 LLM 调用。使用同一个 Ornith 1.5 9B 模型测试三个版本(10 次运行,5 任务×2):

关键改动:删掉多余规划步骤、可预测操作用确定性执行、独立工具调用并行化、把完整推理引擎留给复杂任务。GitHub 任务从 12.76s 降到 4.15s,Gmail 任务从 9.06s 降到 3.27s。

作者坦承这是受控 benchmark(真实模型调用但模拟连接器),样本量小仍需验证。结论:最大的机会往往不在造更聪明的模型,而在模型外构建更聪明的系统。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →