用小模型当 Agent 大脑，声称可大幅砍掉 Agent 账单

blaizedsouza · x · 2026-09-24

作者提出「Jev Engineering」思路：审视你的 AI agent，会发现大部分 token 开销花在边缘决策上——该轮到哪个 worker、任务是否紧急、是否需要继续循环等——却都在用按百万 token 计价的前沿模型。文章主张用一个成本几乎为零的小模型充当 agent 的「大脑」，在毫秒级内决定下一步动作。作者称正确配置后可在不牺牲质量的情况下削减大部分 agent 账单，并给出从零搭建首个 agent 编排层的完整指南。