OpenAI API 新增 12 小时 Prompt 缓存,长时 Agent 可大幅省钱

10 月 21 日 OpenAI 开发者官方账号宣布,API 的 Prompt Caching 功能新增 12 小时缓存选项,此前默认缓存时长仅 30 分钟。开发者可在同一请求中混用两种时长,例如用 12 小时缓存共享的系统指令、工具与上下文。此前请求间隔数小时就需按全价重新计费,现在像 dots 这类持续运行的 Agent 可全天复用上下文,持续享受缓存折扣,显著降低长期运行成本。

2026-10-21 ~ 2026-10-21 · 3 条相关

另有 1 条近重复转述:nikunjhanda