自动研究系统发现 vLLM/SGLang 潜在数值 Bug

PMinervini · x · 2026-08-28

RecursiveSI 的自动研究系统发现,FlashInfer(支持 vLLM 和 SGLang 的核心库)的某些内核使用硬编码值 -50000 作为掩码注意力标记,但这可能小于有效的 QK 值,从而导致不稳定性。该问题已被识别并协助修复。这类隐蔽的数值错误虽然不起眼,但可能引发巨大的排查成本。

所属事件:AI 自动研究系统发现 FlashInfer 数值缺陷,修复 PR 获合并(3 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →