课程生成器从22次模型调用砍到2-5次,单课成本从$0.28降至$0.14
Gleb_SV · reddit · 2026-10-20
作者分享课程生成器(planner/builder/checker/fixer 多智能体流水线,产出约 5 个含图表/模拟和练习的交互课程文件)的成本优化复盘。
优化前(开放式 agent 循环)
- 单次运行 22 次模型调用(4 次规划、18 次构建),66.2 万输入 token,74% 命中缓存
- 未缓存输入仍是最大成本(42%),其次输出 24%、推理 21%、缓存输入 12%
- 每次调用重复发送约 3 万 token 上下文,构建调用的 45-60% 是相同的静态指令文本
- 20 次通过运行平均 $0.28/课,中位耗时约 4 分钟
优化后(一任务一调用)
- Planner:一次结构化调用输出完整 JSON 计划,schema 校验失败时补一次修复调用(约 1/3 概率)
- Builder:一次流式输出全部 5 个文件,用标签格式边关边解析
- Checker:纯静态检查,不调模型,另用 headless 浏览器渲染验证
- Fixer:仅在被标记时做小补丁
- 结果:2-5 次调用/课,最近一轮 6/6 通过,平均 $0.144、约 3 分钟;首次生产运行为 $0.13、约 2 分钟
两个意外发现
- 74% 缓存命中率看似很好,实则掩盖了循环反复重发相同上下文的真问题——砍调用次数才是降本关键
- 限制 planner 思考预算把首 token 时间从约 36 秒降到约 3 秒,该调用成本降 35%(仅 3 次运行样本)
作者抛出问题:输出形状已知时,agent 循环还值得吗?有没有人把循环做得便宜?
「编程与Agent」频道最新
- Supabase 监控工具取消表数量上限,免费档也可无限监视 — santiviquez · 2026-10-20
- 程序员自嘲:git worktree 是储蓄账户,磁盘满了清一波找回 70% 空间 — intellectronica · 2026-10-20
- Claude Code 新增 --tmux flag,内置终端面板布局 — wateriscoding · 2026-10-20
- DeepLearning.AI 推出 Context Engineering 课程,教治理上下文腐烂 — DeepLearningAI · 2026-10-20
- 百款App老手复盘:首个AI应用别一口气生成,逐流程搭建 — PrajwalTomar_ · 2026-10-20
- 没人再读代码了,你的Agent该用什么语言写? — fhinkel · 2026-10-20