OpenAI 升级 GPT-6 提示词缓存并推出诊断仪表盘

OpenAI 于 9 月 22 日至 23 日面向开发者宣布升级 API 中 GPT-6 的 prompt caching（提示词缓存），让长时间运行的 agent 更快、更便宜，并配套推出可视化诊断工具。对高频调用长上下文的开发者和 agent 应用而言，这一改动相当于一次实质性降价。

已确认

• 缓存命中率默认提高，更多输入 token 可享受最高 90% 的缓存输入折扣；@rhiever 转述称缓存输入费率同步下调。据 @新智元 整理的计费规则，对 GPT-5.6 及之后模型，缓存写入为普通输入的 1.25 倍，命中读取仅为 0.1 倍（即 1 折），重复材料场景可省约 78.5% 成本。
• 缓存改进直接降低重复上下文（长系统提示、对话历史等）的调用成本。
• 平台上线 Prompt Caching Dashboard：开发者可查看哪些内容被复用、哪些改动阻止了缓存命中，并可通过 diagnostics API 定位失效原因。
• 新能力包括：通过显式缓存断点选择复用哪些 prompt 前缀；在保留缓存上下文的同时调整推理力度与工具可用性；预热共享上下文（prewarming）以加快响应。
• @rohanpaulai 指出，此次更新使缓存更可靠、更可控，还引入保留缓存的推理行为变更，对在多次调用间维护状态的长时间运行 agent 尤其有价值。

为什么重要

• 长上下文与 agent 工作流中，重复发送相同前缀是主要成本来源；写入 1.25 倍、命中 0.1 倍的费率结构加上更高命中率，可显著降低运行成本。
• 诊断面板与断点机制把缓存从"碰运气"变为可观测、可控的工程手段，便于开发者主动优化而非被动等待命中。

2026-09-23 ~ 2026-09-24 · 6 条相关

• 【源头】OpenAI 改进 GPT-6 Prompt 缓存:输入 Token 最高省 90% — OpenAIDevs · 2026-09-23
• 【源头】OpenAI 上线 Prompt 缓存仪表盘:可查缓存命中率与失效原因 — OpenAIDevs · 2026-09-23
• GPT-6 强化 prompt caching：命中率提升、诊断面板，缓存省最多 90% — rohanpaul_ai · 2026-09-23
• OpenAI 升级 GPT-6 提示词缓存并下调缓存输入价格 — rhiever · 2026-09-24
• 【源头】OpenAI 升级 GPT-6 提示缓存：命中读取 1 折，重复材料可省 78.5% — 新智元 · 2026-09-24

另有 1 条近重复转述:OpenAIDevs