OpenAI GPT-5.6 登陆 Amazon Bedrock:25+ 区域支持跨区推理
AWS ML Blog · rss · 2026-08-21
AWS 官方博客宣布,OpenAI GPT-5.6 系列模型现已在 Amazon Bedrock 的 25 个以上 AWS 区域可用,并支持跨区域推理(CRIS)。三个通用变体 Sol、Terra、Luna 分别针对不同的能力与成本平衡调优,均支持文本与图像输入、100 万 token 上下文、推理模式、服务端工具调用与提示缓存。
跨区推理通过 inference profile 实现:地理 profile(如 us.openai.gpt-5.6-terra)将请求限制在单一地理边界内路由,满足数据驻留要求;全局 profile(global. 前缀)可按实时容量路由到全球任何已部署区域,提供最大容量池。计费与配额统一计入账户。
开发者可直接把现有 OpenAI SDK 指向 Bedrock 的 OpenAI 兼容端点,把模型参数换成 profile ID 即可;支持 Responses API、Chat Completions API 和 Bedrock Converse API。生产环境可用 aws-bedrock-token-generator 从 AWS 凭证派生短期 API key 作为 bearer token。
「Infra」频道最新
- Muse Spark Open 经 llama.cpp 跑通 M3 Ultra:前沿模型上桌面 — pcuenq · 2026-10-16
- Muse-Spark 开源权重发布:816B MoE 模型 MLX 3bit 版已上线 — ns123abc · 2026-10-16
- vLLM 实现 Muse Spark Open Day-0 LoRA RL,AIME 从 0.56 提至 0.85 — vllm_project · 2026-10-16
- Inferact 为 Muse Spark Open 训练 DSpark 草稿模型,一次最多出 7 个 token — vllm_project · 2026-10-16
- Cloudflare Stream WebRTC 低延迟直播正式 GA,可扩展至百万观众 — ritakozlov · 2026-10-16
- YC 孵化 Overshoot 主打推理优化:已帮客户省超 500 万美元 GPU 账单 — ycombinator · 2026-10-16