自动研究 agent 发现 FlashInfer 内核数值缺陷,提交 PR 已被专家合并

timshi_ai · x · 2026-08-28

自动研究系统立功:Josh Tobin 团队此前开发过一个用于性能优化任务的 reward hacking 判定器(judge),在新的自动化研究工作中应用该 judge 时,系统发现 FlashInfer(支撑 vLLM 和 SGLang 的底层库)的一些 kernel 用硬编码的 -50,000 作为 masked-attention 哨兵值——但合法的 QK 值可以比它更小。

这类数值上错误但静默的边界情况极难排查,历史上围绕 flash attention 就有过类似争论。系统不但定位了问题,还提交了修复 PR,已被人类专家接受合并。

所属事件:AI 自动研究系统发现 FlashInfer 数值缺陷,修复 PR 获合并(3 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →