AVO 论文入选 NeurIPS:agent 自动写出超 FlashAttention-4 的 kernel
bingxu_ · x · 2026-09-25
AVO(Agentic Variation Operators)被 NeurIPS 2026 接收,作者称 GPU kernel 工程全自动化已过临界点,剩下只是 scaling,手工调优时代不会回来。
论文要点:
- 用自主编码 agent 循环取代经典演化搜索中固定的变异、交叉与手工启发式:agent 可查询当前谱系、领域知识库和执行反馈,自行提出、修复、批评并验证代码改动
- 在 NVIDIA Blackwell B200 上对注意力 kernel 连续自主演化 7 天,发现的 kernel 比 cuDNN 最高快 3.5%、比 FlashAttention-4 最高快 10.5%
- 优化可迁移到分组查询注意力:仅需 30 分钟额外自主适配,即取得比 cuDNN 高 7.0%、比 FlashAttention-4 高 9.3% 的收益
作者团队包括 Terry Chen、Tianqi Chen、Roger Bringmann 等二十余人。
「Infra」频道最新
- 吉利发布快充技术:不到 5 分钟充至 70% — Polymarket · 2026-09-25
- Google Cloud 推出 AlloyDB「PostgreSQL for agents」,可秒级扩至千级隔离实例 — usamawahabkhan · 2026-09-25
- Seroter 每日阅读清单:agentic 数据库架构与 Agent Skills 实践指南 — rseroter · 2026-09-25
- 华为 960 机柜 2027 版功耗密度达 200kW,仍落后 Blackwell 四倍 — teortaxesTex · 2026-09-25
- 美债收益率创金融危机前新高,分析称 AI 资本开支是关键推手 — tszzl · 2026-09-25
- AI 硬件紧缺全景:HBM、Blackwell、NAND、变压器全线告急 — tengyanAI · 2026-09-25