AWS Bedrock开放GPT-6跨区推理:东南亚五区调用指南
AWS ML Blog · rss · 2026-10-13
AWS 宣布东南亚五区域(新加坡、雅加达、马来西亚、泰国、台北)可通过 global cross-Region inference 调用 OpenAI GPT-6 系列模型,解决单区域容量不足被限流的问题:GPT-6 Sol 与 GPT-6 Luna 支持全部五个源区域,GPT-6 Astra 从新加坡调用。
- 模型定位:Sol 强推理与编码,Luna 适合高吞吐的重复任务,Astra 处理复杂推理、编码与长文档;三款均支持文本+图像输入、工具调用与提示词缓存,推理力度从 none 到 max(Astra 不支持 none)。
- 用法:把推理 profile ID(如 global.openai.gpt-6-sol)当 model ID 传入即可,计费、配额与 CloudWatch 监控都留在源区域。支持 Converse API、OpenAI 兼容 API(/openai/v1 路径,SigV4 或 API key 鉴权)及现有编码客户端;文章给出完整 Python 示例(boto3 与 OpenAI SDK + aws-bedrock-token-generator 临时密钥)。
- 准备:只需激活源区域(雅加达、马来西亚、泰国、台北为 opt-in 区域),配置对应 IAM 权限。
「Infra」频道最新
- 团队推 Noise:押注零阶优化取代反向传播,预训练再提速千倍 — madhavsinghal_ · 2026-10-13
- 算账:前沿模型能耗已逼近人脑,还能再降 10-100 倍 — ricklamers · 2026-10-13
- OpenAI 演讲照曝光:ChatGPT 周活超 10 亿,算力每两年增 10 倍 — firstadopter · 2026-10-13
- 应用材料 EPIC Center 揭幕,分析师看好晶圆厂设备需求 — BenBajarin · 2026-10-13
- Cloudflare 采用 SGLang 服务 Clef,单 H200 决策延迟低于 40ms — ying11231 · 2026-10-13
- 16GB 显存跑 Qwen3.8 27B:262k 上下文+视觉,作者公开调参细节 — Fancy-Snow7 · 2026-10-13