AVO 论文入选 NeurIPS：agent 自动写出超 FlashAttention-4 的 kernel
bingxu_ · x · 2026-09-25
AVO（Agentic Variation Operators）被 NeurIPS 2026 接收，作者称 GPU kernel 工程全自动化已过临界点，剩下只是 scaling，手工调优时代不会回来。
论文要点：
- 用自主编码 agent 循环取代经典演化搜索中固定的变异、交叉与手工启发式：agent 可查询当前谱系、领域知识库和执行反馈，自行提出、修复、批评并验证代码改动
- 在 NVIDIA Blackwell B200 上对注意力 kernel 连续自主演化 7 天，发现的 kernel 比 cuDNN 最高快 3.5%、比 FlashAttention-4 最高快 10.5%
- 优化可迁移到分组查询注意力：仅需 30 分钟额外自主适配，即取得比 cuDNN 高 7.0%、比 FlashAttention-4 高 9.3% 的收益
作者团队包括 Terry Chen、Tianqi Chen、Roger Bringmann 等二十余人。
「Infra」频道最新
- 三年造 CPU、内存与脉冲网络：一位芯片爱好者的加速器之路 — k7agar · 2026-11-11
- CoreWeave：2027年13万张GPU到期续约可年增收近40亿美元 — zephyr_z9 · 2026-11-11
- 800 美元二手 3090 主机本地跑 DeepSeek 4.1，2 量化仅 2-3 token/s — LankyGuitar6528 · 2026-11-11
- Mark 感叹 George Hotz 当年对 Nvidia 局势的预言成真 — mark_k · 2026-11-11
- 亚马逊 Prime 360 用 AI 实时重建 NBA 比赛 3D 画面，可任意视角回放 — import_jmr · 2026-11-11
- Altman 首度明言:OpenAI 中长期要取代 Nvidia — zephyr_z9 · 2026-11-11