月之暗面讲 Kimi 训练路线
dotey · x · 2026-07-18
杨植麟在 GTC 2026 的演讲 How We Scaled Kimi K2.5 里，重点讲了月之暗面过去一年的技术路线：如何在开源模型上继续逼近闭源前沿。
核心思路有三条：
- 让每个 Token 更“值钱”，提高高质量数据利用率；
- 让更长的上下文真正发挥作用；
- 让多个 Agent 同时协作。
他还提到两个具体进展：一是视觉训练能反过来增强文本能力；二是团队刚公布了下一代架构 Attention Residue。在训练基础组件上，月之暗面尝试替换沿用多年的 Adam、注意力机制和残差连接，并且都已开源。
其中，MuonClip 被用来替代 Adam。月之暗面称，在相同数据量下，它的训练效果接近把数据量增加一倍；在高质量数据越来越稀缺的背景下，这意味着更高的数据效率和更低的训练成本。
所属事件:杨植麟分享 Kimi K2.5 扩展与提效路线(4 条相关)→
「模型」频道最新
- Kimi K2.8 Preview 上线：性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11
- 用户呼声下 DeepSeek V4 Pro API 宣布继续服务,计费不变 — teortaxesTex · 2026-09-11
- 第三方实测:DeepSeek V4.1 Flash 达 GPT-6 Astra 98% 分,成本仅 1.4% — ayushtweetshere · 2026-09-11
- TheZhi 发起调查:Fable 5.1 与 Astra 发布后,编码模型选择变了吗 — TheZvi · 2026-09-11
- antirez 谈 Anthropic 禁止未成年人使用 Claude — antirez · 2026-09-11