OpenAI 推出 Prompt Caching 仪表盘,可追踪缓存命中率与失效原因

OpenAIDevs · x · 2026-09-23

OpenAI 面向开发者发布提示词缓存优化工具集:可通过显式缓存断点选择复用哪些 prompt 前缀;在保留缓存上下文的同时调整推理力度和工具可用性;可预热共享上下文加快响应。同时上线 Platform 上的 Prompt Caching Dashboard 追踪缓存命中率,并提供诊断 API 定位破坏缓存复用的改动、估算受影响的 token 数量。

所属事件:OpenAI 改进 GPT-6 Prompt 缓存,输入 token 最高省 90%(3 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →