自动研究系统发现 vLLM/SGLang 潜在数值 Bug
PMinervini · x · 2026-08-28
RecursiveSI 的自动研究系统发现,FlashInfer(支持 vLLM 和 SGLang 的核心库)的某些内核使用硬编码值 -50000 作为掩码注意力标记,但这可能小于有效的 QK 值,从而导致不稳定性。该问题已被识别并协助修复。这类隐蔽的数值错误虽然不起眼,但可能引发巨大的排查成本。
所属事件:AI 自动研究系统发现 FlashInfer 数值缺陷,修复 PR 获合并(3 条相关)→
「Infra」频道最新
- 美数据中心 2026 年或面临 17-29GW 电力负荷缺口 — BenBajarin · 2026-08-28
- 算力支出正追赶而非引领用户增长曲线 — YvesMulkers · 2026-08-28
- a16z 谈为何基础设施成为 AI 新瓶颈 — a16z · 2026-08-28
- AI 芯片商燧原科技估值翻倍,获 20 亿元融资 — pstAsiatech · 2026-08-28
- a16z 募资 11 亿美元成立机器时代基金,投算力与机器人 — a16z · 2026-08-28
- a16z 募资 11 亿美元成立机器时代基金 — a16z Newsletter · 2026-08-28