算账:Agent 场景缓存价格比输入价更关键,一次未命中等于 25 次命中
zitoliv · reddit · 2026-11-03
作者算了一笔账:编码 Agent 每轮重发全部会话历史,100K 上下文跑 50 轮就是 5M 输入 token,几乎全是重复历史,因此决定账单的是缓存读取价和命中率,而不是模型页上的输入价。
- Claude Sonnet 5.5:未缓存 $10 vs 缓存命中 $0.50,差 20 倍
- DeepSeek V4.1 Flash 官方 API:$1.50 vs $0.03,差 50 倍(错峰再减半)
- 未命中代价高:Sonnet 上 100K 一轮未命中 $0.25(缓存写入)vs 命中 $0.01,一次 miss = 25 次命中
常见 miss 原因:中途切换供应商(缓存在哪里写入就在哪里命中)、空闲超时(Anthropic API 默认 5 分钟,Claude Code 订阅部分场景 1 小时)、改动 prompt 前部(system prompt、AGENTS.md 等)导致其后全部按原价重读。
建议:锁定供应商、控制会话长度、保持 prompt 开头稳定。配图用柱状图展示了 50 轮会话中可缓存历史的累积与两种模型的成本对比(2026 年 11 月官方 API 价格)。
「编程与Agent」频道最新
- 闲鱼 AI 监控工具走红:Playwright+大模型实时盯单已获 1.6 万 Star — Usagi-org · 2026-11-03
- 博主把 AI 员工 Viktor 拉进团队 Slack,2 分钟出落地页 — rubenhassid · 2026-11-03
- Surrogate 推理引擎被曝改标洗白开源项目 NInfer 代码 — teortaxesTex · 2026-11-03
- Forward Deployed AI Engineer 系列教程:把客户需求翻译成技术指标 — Affectionate_Slip654 · 2026-11-03
- 新博客谈 vibe coding 正确姿势:别让 AI 写全栈,要建在坚实地基上 — springrod · 2026-11-03
- Epic 曝 UE6 迁移计划:弃用 Actor 与蓝图,靠 AI 辅助迁移旧项目 — pvncher · 2026-11-03