OpenAI GPT-5.6 模型上线亚马逊 Bedrock，支持显式提示缓存
AWS ML Blog · rss · 2026-07-31
亚马逊 AWS 官方博客宣布，OpenAI GPT-5.6 系列模型（Sol、Terra、Luna）现已在 Amazon Bedrock 平台正式可用。该系列涵盖从复杂推理到高并发分类等不同层级的需求。
同时，Bedrock 为 GPT-5.6 引入了显式提示缓存功能。用户可精准控制提示词中需要缓存复用的部分，缓存命中的输入 token 享受 90% 的折扣，缓存保留期为 30 分钟。该功能在系统指令和工具定义频繁重复的智能体工作流中降本效果显著。
文章还详细展示了如何通过 OpenAI 兼容的 Responses API 配置客户端、调整推理强度、调用工具，以及如何结合隐式与显式缓存模式来优化工作负载。
「Infra」频道最新
- 全球最大「物理 AI」数据引擎正进一步扩大规模 — pduan · 2026-07-31
- SGLang 联合 Google 与 RadixArk，为大模型提供原生 TPU 推理支持 — ying11231 · 2026-07-31
- LLM 路由器崛起：自动调度模型以优化成本与性能 — CackleRooster · 2026-07-31
- Together AI 开源模型生产部署线上说明会 — togethercompute · 2026-07-31
- NVIDIA 发布 Jetson AGX Thor：专为具身智能打造的机器人大脑 — NVIDIA Developer · 2026-07-31
- AI数据中心噪音达105分贝，科技巨头遭多地居民集体诉讼 — mkheck · 2026-07-31