modded-nanogpt 再提速 2.17 秒,speedrun 跑到 76.0 秒

kellerjordan0 · x · 2026-07-28

modded-nanogpt 的一个 PR 继续刷新 speedrun 记录:作者通过移除 Sparse Attention Gates、优化 XSA lowering,再次把总耗时往前推进 2.17 秒,新的记录为 76.0 秒。帖子强调这是“等价数学 + 更快执行”的优化思路,并提到在单张 H100 上该路径可达到 17.33 秒级别,属于训练代码/性能优化方向的实质进展。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →