Moonshot 为 Kimi K3 上线定制 DFlash 推测解码
charles_irl · x · 2026-07-28
Moonshot 给 Kimi K3 做了定制 DFlash 加速
Modal 表示，Kimi K3 已经在其平台上线，Moonshot 也把它描述为首个 3T 级开源模型 的 day-zero 合作发布。
- Modal 为 K3 的新架构训练了定制的 DFlash speculator（推测解码器）。
- 目标是在不损失质量的前提下提升推理速度。
- 配图曲线显示，在不同交互强度下，block size 8/16 都明显快于 no speculation。
这条帖子的重点不是模型参数本身，而是围绕 Kimi K3 的推理加速与上线部署。
所属事件:Moonshot首个3T级模型Kimi K3登陆Modal(3 条相关)→
「Infra」频道最新
- 一家公司把 AI 月账单从 120 万美元压到约 10 万美元 — HeyAmit_ · 2026-07-28
- OxygenREC-v2 把判别能力内化进 3B MoE 推荐器 — _reachsumit · 2026-07-28
- 帖子称这项 NVIDIA 相关发布仍只限微软 Foundry 审批客户 — davidmanheim · 2026-07-28
- 8 张 B300 自建推理月跑 300 亿 tokens，回本不到 100 天 — JosephJacks_ · 2026-07-28
- Render 开源 MCP 服务器，接入部署日志指标和 Postgres — ojus_render · 2026-07-28
- Anduril 集装箱数据中心两人十分钟内可部署 — damianplayer · 2026-07-28