OpenAI API 上线 12 小时 prompt 缓存,长期运行 Agent 省钱
nikunjhanda · x · 2026-10-21
OpenAI 开发者官方账号宣布,API 现已支持 12 小时 prompt 缓存选项。
此前缓存有效期较短,请求间隔数小时就要重新按全价计费;现在像 dots 这类持续运行的 Agent 可以整天复用上下文,共享的系统指令、工具定义和上下文即使隔了数小时再次请求,仍按更低的缓存输入价格计费。对需要长期持久上下文的 Agent 应用是直接的成本下降。
所属事件:OpenAI API 新增 12 小时 Prompt 缓存(2 条相关)→
「编程与Agent」频道最新
- Compaction hooks 实战:保留末尾消息原文+摘要压缩,实现 agent 记忆连续性 — MoonL88537 · 2026-10-21
- 「空白输入框的隐性成本」：当操作负担经由语言重新回到用户身上 — _AustinCalvert_ · 2026-10-21
- DeepMind 论文：自进化 Agent 学新任务最快，忘掉旧知识也最多 — rohanpaul_ai · 2026-10-21
- arXiv 原文:《自进化 Agent 是持续学习者吗?》——可塑性代价是稳定性 — rohanpaul_ai · 2026-10-21
- PM OS、Team OS、Company OS:三层 AI 工作系统怎么搭、先搭哪个 — aakashgupta · 2026-10-21
- TorchTPU 实测演示：vLLM 与 SGLang 统一后端跑 TPU 服务 — Rob_Mulla · 2026-10-21