39.9 秒训完 NanoGPT,新纪录一次性砍掉 46% 训练时间

cephaloform · x · 2026-09-29

Hyperstition 实验室的 Deven Pietrzak(MIT 数学系)在 modded-nanogpt 项目上创下 NanoGPT 训练新纪录:39.9 秒(0.665 分钟),并称按训练时间降幅计算,这一进步超过此前 45 项世界纪录的总和。该 PR(#360)已被合并,纪录在 5 天内完成,并由四个独立来源复现验证。关键技术点包括:

相比此前纪录在相同硬件上削减了 34 秒、约 46% 的训练时间。详细方法见作者发布的技术解析。

所属事件:MIT 学生将 NanoGPT 训练纪录刷新至 39.9 秒(4 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →