OpenAI API 上线 12 小时 prompt 缓存,长时 agent 复用上下文更省钱
jeppa35 · reddit · 2026-10-21
OpenAI Developers 官宣 API 新增 12 小时 prompt 缓存选项,此前默认为 30 分钟。开发者可以在同一请求中混用:12 小时缓存存放共享指令等长期内容,30 分钟缓存承接较新的对话内容。对于 dots 这类全天复用上下文的持久 agent,共享指令、工具定义和上下文可以缓存更久并持续享受更低的缓存输入价格,即使两次请求相隔数小时。Reddit 帖补充了实用判断:如果同一上下文全天要反复复用,重复命中带来的节省会明显超过 12 小时缓存额外的写入成本。
所属事件:OpenAI API 推出 12 小时 Prompt 缓存,长时 Agent 大幅省钱(4 条相关)→
「模型」频道最新
- 问 AI agent 最喜欢什么颜色,它居然真有偏好 — every · 2026-10-21
- Google 展示 Gemini 4 Argon 用 Antigravity 造出动态 3D 元素周期表 — sundarpichai · 2026-10-21
- MiniMax 跟进 GTC 发布潮,M3.1 Flash 曝光 — MaziyarPanahi · 2026-10-21
- Claude Max 5x 额度大幅宽松,用户一周狂烧也用不完 — Angaisb_ · 2026-10-21
- General Intuition 宣布 API 即将上线,定位「空间与时间中行动的前沿实验室」 — chris_j_paxton · 2026-10-21
- 开发者实测:Fable 5.1 更强但 6.1 Sol 产品体验更好 — curious_vii · 2026-10-21