提示缓存反烧钱:无人读取的缓存写入溢价正悄悄抬高你的 LLM 账单
gethackteam · x · 2026-09-13
推文提醒开发者检查提示缓存（prompt caching）的实际收益，避免为没人读取的缓存反复支付写入溢价：
- 检查服务商的缓存写入加价（write premium）、过期时间与实际复用率
- 折扣的缓存读取价救不了「每个请求都在新建缓存」的情况
- 以 Anthropic 为例，默认缓存 TTL 只有 5 分钟，很可能持续亏钱
「Infra」频道最新
- 台积电拟明年 CoWoS 先进封装涨价至多 20%，AI 芯片需求持续火爆 — Beth_Kindig · 2026-10-31
- effect-harness + Cloudflare：agent 循环自由拆到多台 VM 上跑 — samgoodwin89 · 2026-10-31
- 谷歌 Project Suncatcher 太空 TPU 首次在轨运行并返回结果 — sundarpichai · 2026-10-31
- Together AI 推出 Post-Training 平台:Agentic RL 训练托管服务 — togethercompute · 2026-10-31
- General Compute 融资 1 亿美元投推理算力，CoreWeave 股价同周创新低 — YvesMulkers · 2026-10-31
- 分析师警告 AI 算力「越买越涨」正反馈环,Kioxia 闪存涨价预警引发闪崩 — bookwormengr · 2026-10-31