三次 6 分钟停顿让 Claude agent 会话输入成本翻倍

Future_AGI · reddit · 2026-10-15

作者以一个 20 轮 Claude Sonnet 5.5 agent 会话为例，按 API 牌价算账：token 完全相同的两次运行，用户每轮 5 分钟内回复只需 $0.138 输入成本；若在第 6、11、16 轮前各离开 6 分钟，成本涨到 $0.282——差距全在 prompt cache。

• 机制：Anthropic 缓存默认保留 5 分钟，每次命中免费重置计时；超时后下一次调用要以 $2.50/M 重写全部上下文，而读取只需 $0.10/M（0.05x 基价，即 25 倍差距）。10 万 token 上下文一次过期就多花 $0.25 而非 $0.01。
• 账单看不出来：按调用计的成本日志只显示第 16 轮 $0.080（热缓存时 $0.008），有 32,000 token 的 cache write，但导致它的 6 分钟空隙存在于两行日志之间。
• OpenAI 不同：GPT-5.6 起 cached prefix 至少保留 30 分钟，同样的停顿不产生额外费用。
• 建议：
• 每次调用记录 cachereadinputtokens / cachecreationinputtokens，并附 session ID 与距上次调用的秒数，让空隙变成可排序的一列；
• 用户若常停 5–60 分钟，改用 1 小时缓存（"ttl": "1h"），写入 2x 基价，本会话可降到 $0.198；
• 时间戳、请求 ID 等每次变化的值不要放在系统提示和工具定义里、缓存断点之前，否则每次都 miss。

计算基于 turn n 发送 2000×n token 的模型，未含输出 token 与固定系统提示（系统提示越大，每次过期代价越高）。

原文链接 →

「编程与Agent」频道最新

• ServiceNow 推出 AI Passport：为每个 AI Agent 发加密签名身份凭证 — shashib · 2026-10-15
• ChatGPT Sites 接 MCP Events 与 dots：工作流触发式智能体新玩法 — gabrielchua · 2026-10-15
• 从「AI 建议我手动改」到「彻底放手让 Agent 写代码」 — madeofAjala · 2026-10-15
• 用游戏测评编程模型不是炫技，而是检验真实复杂任务 — vitaliychiley · 2026-10-15
• OpenUI 1.0 发布:让本地开源模型的 Agent 告别纯文本,用组件渲染图表表单 — dr_cintas · 2026-10-15
• Proof 推出开放协议 x401，让 AI Agent 自证身份与授权 — csuwildcat · 2026-10-15

更多「编程与Agent」频道 AI 资讯 →