AI智能体自主编写Triton内核,打破 NanoGPT 训练速度记录
cong_ml · x · 2026-08-05
AI 智能体在 NanoGPT Speedrun 挑战中创下 75.4 秒的最新世界纪录。
该突破由 @congml 和 @RecursiveSI 合作实现。核心在于智能体自主找到了一种更优的解决方案:它编写了一个定制的 ReLU^2 MLP Triton 内核。在前向传播时,该方案仅保存 relu(X@W1)^2,而在反向传播时通过融合尾声重新构造 relu(X@W1),从而大幅节省了内存通信开销,将训练时间缩短了 0.6 秒。
「编程与Agent」频道最新
- Gary Marcus 批 AI Agent:昂贵且不可靠,离开专家 babysit 难落地 — GaryMarcus · 2026-08-05
- Hark 发布网页自动化智能体 Handoff 预览版 — adcock_brett · 2026-08-05
- Open Interpreter 更新:原生支持 Codex 协议与 Kimi K3 — Shruti_0810 · 2026-08-05
- Cloudflare OS 发布:主打安全 vibe coding,AI 还能陪玩井字棋 — irvinebroque · 2026-08-05
- Agent 一夜狂飙百个功能,人类 review 为何不可替代? — andreisavu · 2026-08-05
- Cloudflare 开源 Agent 管理系统,推出 AI 网关与 MCP 防护工具 — threepointone · 2026-08-05