OpenAI API 上线 12 小时 prompt 缓存,长时 agent 复用上下文更省钱

jeppa35 · reddit · 2026-10-21

OpenAI Developers 官宣 API 新增 12 小时 prompt 缓存选项,此前默认为 30 分钟。开发者可以在同一请求中混用:12 小时缓存存放共享指令等长期内容,30 分钟缓存承接较新的对话内容。对于 dots 这类全天复用上下文的持久 agent,共享指令、工具定义和上下文可以缓存更久并持续享受更低的缓存输入价格,即使两次请求相隔数小时。Reddit 帖补充了实用判断:如果同一上下文全天要反复复用,重复命中带来的节省会明显超过 12 小时缓存额外的写入成本。

所属事件:OpenAI API 推出 12 小时 Prompt 缓存,长时 Agent 大幅省钱(4 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →