无缓存 agent 成本暴涨 260%,缓存折扣两年内从 0 到 95%
arena · x · 2026-10-30
Agent Arena 发布分析文章,基于 2026 年 9 月 12 日至 10 月 23 日的 26,225 个会话、30 个 agent、13 家实验室的 trace 数据,以及六家实验室 2024 年 1 月以来的缓存价格史,解释为什么 prompt 缓存成为各家实验室的争夺焦点(此前 OpenAI 宣布 API 支持 12 小时缓存、Codex 与 Work 缓存永不过期)。
- 缓存折扣两年从 0 到 95%:2024 年初缓存读与新鲜输入同价,如今头部前沿模型缓存读仅为输入价的 5%。
- 缓存是 agent 经济性的命脉:没有缓存,头部 10 名 agent 的典型任务成本约为原来的 3.6 倍(+260%)。
- 配图显示:各模型单任务 token 中 86%–96% 为重读(re-reads);GPT-6 Astra 典型任务 $4.71、无缓存最贵场景达 $801;Claude Fable 5.1 典型 $7.44 → $783;Kimi K3.1 Pro $1.09 → $106。
「Infra」频道最新
- Cloudflare 不肯做,开发者自研工具实现 Durable Objects 零停机迁出 — samgoodwin89 · 2026-10-30
- 曝一家未具名机构已建成规模化算力借贷专项载体 — matt_slotnick · 2026-10-30
- 开源模型涨价挤压推理商:5 月以来 GPU 回本吞吐要求涨 25-83% — bookwormengr · 2026-10-30
- Sam Altman 称芯片供应链“看不见的手”失灵,DRAM 是关键瓶颈 — SnoozeDoggyDog · 2026-10-30
- MoEShift 让 24GB Mac 跑 125B 模型:7.5GB 内存、10 tok/s — dave-tro · 2026-10-30
- 量子行业去年风投 49 亿美元仅营收 19 亿,四市场全景指南发布 — antavedissian · 2026-10-30