Kimi K3.1 Pro Highspeed 登陆 Bedrock:速度提升 2-3 倍、百万 token 上下文
AWS ML Blog · rss · 2026-11-11
AWS 官宣 Moonshot AI 的 Kimi K3.1 Pro Highspeed 上线 Amazon Bedrock。该模型基于 K3 的 3T 级开源权重架构,拥有 100 万 token 上下文窗口,投入了更多后训练算力,主打长程 agentic 任务、减少事实错误,并强化金融建模、办公文档,以及游戏引擎/3D 场景/CAD 脚本等编程能力;输出速度为 Kimi K3.1 Pro 的 2-3 倍。
接入要点
- 兼容 OpenAI SDK 的 Chat Completions 与 Responses API,也支持 Bedrock Converse/Invoke;改个 model ID 即可从 Kimi K3 迁移。
- 推荐 global.moonshotai.kimi-k3.1 推理 profile(更便宜),另有 us/in 区域 profile 满足数据驻留需求。
- 模型始终先推理再回答,reasoningeffort 支持 low/high/max,默认 max;简单任务调低可直接降延迟省 token。
降本手段
- Flex 层:半价换取更长响应时间,适合评测、摘要、后台 agent 任务,可按请求混用各层级。
- 显式 prompt caching:用 promptcachebreakpoint 标记稳定前缀(≥256 token),缓存保留至少 30 分钟,缓存读取享折扣价且不占 TPM 配额(Converse API 不支持)。
数据在 AWS 边界内处理,不回传 Moonshot、不用于训练,推理默认零保留、运维无法查看提示词。
「Infra」频道最新
- PufferLib 单 GPU 每秒训练 6000 万样本，RL 库全开源 — jsuarez · 2026-11-11
- ASIC 崛起侵蚀 CUDA 护城河，Anthropic 算力表态引热议 — bookwormengr · 2026-11-11
- Fable 5.2 登顶 GDPx 芯片设计榜(16.4%),但部分任务零提升 — ycombinator · 2026-11-11
- 腾讯最新旗舰模型 Hy4 曝光,已承载生产流量 — VoidAsuka · 2026-11-11
- Claude 三天完成 AMD MI355X 适配,原本需数十工程师半年到一年 — AnushElangovan · 2026-11-11
- 分析师：AI 数据中心需求将终建到太空，本地审批延误非长期障碍 — TinfoilTricorn · 2026-11-11