工程师吐槽:SGLang/vLLM 服务器问题多,低层性能优化空间巨大

tekbog · x · 2026-09-24

推文作者 zekramu 抱怨当前主流推理服务栈质量堪忧:SGLang、vLLM 等服务器充满 bug,MLX 等低层内核也未充分优化,认为低层性能工程仍有大量工作可做。

引用者 tekbog 由此延伸:多年前的经验表明,流行编程语言的源码里也有大量“胶带糊起来”的部分;好的软件工程师不是不依赖脆弱的底层材料,而是学会在其上加护栏保证系统可靠——这在计算机行业是常态。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →