研究者为 SGLang 写 200+ 条属性约束，找出 10 个推理缺陷
LingmingZhang · x · 2026-10-31
Grigore Rosu 团队对广泛使用的 LLM 推理服务器 SGLang 开展形式化验证：从其文档、注释和代码中提炼出 200 多条必须始终满足的属性，然后搜索违反这些属性的运行路径。
结果共发现 10 个问题，其中数个正在私下披露修复中，已公开的问题在推文中以线程形式列出。这类基于运行时验证（如 kRPC 框架风格）的做法为 LLM 推理基础设施的质量保障提供了可复用的方法论。
「Infra」频道最新
- ClickHouse 曝未认证远程代码执行漏洞 CVE-2026-116366 — Hacubu · 2026-10-31
- 批量合并提问只读一遍文档,可大幅降 LLM 分类成本与延迟 — petrusenko_max · 2026-10-31
- 低成本双卡 3060 12GB 本地推理方案:显存性价比压过贵一倍的 5060 — Frizzy-MacDrizzle · 2026-10-31
- 分析师：英伟达企业与新云客户收入增速 138.5%，有望 2-6 个季度内赶超超大规模云厂 — Beth_Kindig · 2026-10-31
- 分析师：Nvidia 企业/新云业务 2-6 个季度内或超超大规模云厂 — Beth_Kindig · 2026-10-31
- 249GB 无审查 DeepSeek V4.1 Flash 跑上 Colab,速度超 118 tok/s — Healthy_Essay3388 · 2026-10-31