Moonshot 公布 Kimi K3 报告,称效率比 K2 提升 2.5 倍

cedric_chee · x · 2026-07-27

Moonshot 发布了 Kimi K3 技术报告,核心主张是它相较 Kimi K2 实现了 2.5× 的 scaling efficiency 提升。

报告把提升归因于 架构、数据和训练 的共同改进。配图里的表格列出了主要结构变化:更大的 MoE 规模、更多激活参数、更多每 token 参与的专家、更长的训练上下文,以及改为 hybrid KDA–MLA 注意力设计。

所属事件:Moonshot发布Kimi K3报告,训练效率提升引热议(3 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →