JustGOAL 论文:通用前沿模型打赢 GPU 内核优化专用 Agent
azed_ai · x · 2026-10-27
清华 NLP 团队与合作者的新论文 JustGOAL 对当前「为 GPU 内核优化专门构建复杂多 Agent 系统」的 systems ML 路线提出质疑:只给前沿模型一个优化目标、一个正确性门控和一句简单指令「Beat this number」。
实验结果:
- 在 NVIDIA B200 上,使用通用模型 Fable 5.1,在 FlashAttention、Gated DeltaNet、DeepSeek Sparse Attention 三个算子上均达到或超过专家手写参考实现,加速比 1.08×–1.58×。
- 对比专门化的内核优化 Agent 框架 KDA-0.5(参考加速 1.45× 和 1.28×),Fable 5.1 在两者上都做到 1.58×;同模型单 shape 对比中 KDA-0.5 仅达 JustGOAL 的 0.95×。
作者用「a good prompt beats the expert」概括结论:严格正确性校验下的通用前沿模型,可以胜过为内核优化精心构建的专用 Agent 基础设施——这对做 ML Infra 的人是关键信号。
「Infra」频道最新
- 本地部署选卡求助：2×3090、5080 还是 R9700 跑图视频生成 — shui95827 · 2026-10-27
- TRL 异步 GRPO 默认启用 score centering：FP8 采样器训练不再崩到 0.10 — _lewtun · 2026-10-27
- 印度 IT 真正风险：每笔美元收入都要绑一份 OpenAI 订阅 — NirantK · 2026-10-27
- 旧笔记本搭语音聊天 Agent 遇 20-30 秒延迟,求助优化方案 — mesolimbic-bliss · 2026-10-27
- 美联航 661 架机装星链，乘客为上网换航司 — XFreeze · 2026-10-27
- Naveen Rao：十年内推理市场或达 10 万亿美元 — ravikantagrawal · 2026-10-27