Moonshot 公布 Kimi K3 报告,称效率比 K2 提升 2.5 倍
cedric_chee · x · 2026-07-27
Moonshot 发布了 Kimi K3 技术报告,核心主张是它相较 Kimi K2 实现了 2.5× 的 scaling efficiency 提升。
报告把提升归因于 架构、数据和训练 的共同改进。配图里的表格列出了主要结构变化:更大的 MoE 规模、更多激活参数、更多每 token 参与的专家、更长的训练上下文,以及改为 hybrid KDA–MLA 注意力设计。
所属事件:Moonshot发布Kimi K3报告,训练效率提升引热议(3 条相关)→
「模型」频道最新
- Kimi K3 接入 SGLang,首日跑到 423 tok/s — ying11231 · 2026-07-28
- Ollama 上线 Kimi K3:支持 1M 上下文与原生视觉 — ollama · 2026-07-27
- Kimi K3 训练效率据称提升 2.5 倍 — zephyr_z9 · 2026-07-27
- NVIDIA 将 Cosmos3 Super 图生视频蒸馏到 4 步运行 — multimodalart · 2026-07-27
- Kimi K3 登陆 Modal,定制 DFlash 推测解码加速推理 — AAAzzam · 2026-07-27
- Kimi K3 在 vLLM 上线,2.8T 参数开源模型支持 1M 上下文 — ricklamers · 2026-07-27