自动研究系统发现 vLLM/SGLang 潜在数值 Bug
PMinervini · x · 2026-08-28
RecursiveSI 的自动研究系统发现，FlashInfer（支持 vLLM 和 SGLang 的核心库）的某些内核使用硬编码值 -50000 作为掩码注意力标记，但这可能小于有效的 QK 值，从而导致不稳定性。该问题已被识别并协助修复。这类隐蔽的数值错误虽然不起眼，但可能引发巨大的排查成本。
所属事件:AI 自动研究系统发现 FlashInfer 数值缺陷，修复 PR 获合并(3 条相关)→
「Infra」频道最新
- 铜转光：机架级光背板成 AI 数据中心下一步设计刚需 — BenBajarin · 2026-10-16
- Polymarket 开出 28% 概率：年内将有美国州级数据中心禁令落地 — Polymarket · 2026-10-16
- 宾州居民拒绝每户 1 万美元补偿，抵制亚马逊大型数据中心进驻 — Polymarket · 2026-10-16
- PyTorch 原生跑上 AWS Trainium，零代码改动 — PyTorch · 2026-10-16
- 业内爆料：中国实验室算力仅美国 1/10，字节 2-4 倍价扫东南亚算力 — robleclerc · 2026-10-16
- GPU 优化公司 Zymtrace 融资 1220 万美元，招 ML 工程师打造自主调优 Agent — cfregly · 2026-10-16