用户实测:Anthropic API 缓存 5 分钟窗口让打包额度大量浪费
teortaxesTex · x · 2026-11-08
网友 teortaxesTex 自嘲发现自己使用 Anthropic 打包 API 额度的方式「浪费得离谱」:他的请求复用总是落不进 prompt cache 的 5 分钟有效期窗口。
配图的控制台数据显示:Claude Opus 5.5 消耗 2.6M 输入 token,其中 cache read 仅占 0.1%,绝大部分是 5 分钟窗口的 cache write(按全价计费),write 摊销倍率接近 0.00×。这意味着如果请求间隔超过 5 分钟,每次都重新写入缓存,成本远高于命中缓存。
他还半开玩笑地问:Anthropic 是否该反过来从 DeepSeek 蒸馏点什么。
「Infra」频道最新
- Shruti 开源模型覆盖印度 22 种官方语言,单个文件不到 30MB 可离线跑 — kingslyj · 2026-11-08
- 硬核极客用 SystemVerilog 跑通 SmolLM-135M 全推理流程 — cneuralnetwork · 2026-11-08
- 一个想法改变一切:1966 年 Dennard 用单晶体管奠定现代 DRAM 基础 — cneuralnetwork · 2026-11-08
- KV 缓存差 10 倍:Inkling 2 对比 DeepSeek,RSI 短期难推动架构创新 — bookwormengr · 2026-11-08
- Harbor 一周年:每周处理 200T tokens,Terminal-Bench 超 1000 万次运行 — BenBlaiszik · 2026-11-08
- 像 LLM 排行榜一样对比硅光子代工厂:Photonics Atlas 汇总厂商组件规格 — jwt0625 · 2026-11-08