专用推理引擎扎堆发布,生态碎片化引争论

近一个月内至少 5 个专用 LLM 推理引擎相继发布,开发者 alexocheema 公开质疑在已有 vLLM、sgLang 等项目的情况下生态为何还要碎片化,认为如今借助 AI 很快就能写出凑合的推理引擎。vLLM 核心开发者 Kaichao You 回应称,推理引擎远不只是「在某硬件上跑模型」,碎片化质疑并不成立,争论引发社区关注。

2026-09-13 ~ 2026-09-13 · 2 条相关