Muon 优化器将 nanoGPT 训练缩至 1.23 分钟

dianarycai · x · 2026-08-19

Flatiron Institute 的研究人员开发了高效 AI 训练工具 Muon 的核心组件“Polar Express”算法，大幅提升了训练效率。得益于 Polar Express 对 Muon 核心操作的优化，最新版本的 Muon 训练 nanoGPT（ChatGPT 的缩小版）仅需 1.23 分钟。相比之下，2019 年训练 ChatGPT 前身需要 4 天，2024 年 5 月的记录是 45 分钟。这一进步对于降低 AI 行业的能源消耗和算力成本具有重要意义。