LLM 推理引擎大爆发：是良性竞争还是碎片化灾难？
Anstellos · reddit · 2026-10-25
Reddit 讨论帖：推理引擎生态从 vLLM、llama.cpp、TensorRT-LLM 几个稳固选择，爆发到 Strata、Radiance、各种 Flash-Next/DeepSeek-Flash 优化构建、megakernel 等专业化引擎与分叉。作者承认性能提升是真实的（尤其针对 Qwen Flash Next、DeepSeek 变体或特定硬件），ROCm 大幅进步使 AMD 不再是明显的二等公民，但生态高度碎片化：模型支持参差不齐，每次新模型发布都要测多个引擎才能选型，被迫「一个模型绑一个引擎」。作者怀念 LM Studio 式的简单，发问这是会最终收敛的健康竞争，还是让生态愈发碎片化。
「Infra」频道最新
- SGLang 追平 DeepInfer:GB300 上解码吞吐提升 7.4% — BanghuaZ · 2026-10-25
- 开源语音助手 Poldi:8GB 显存即可全本地离线运行 — rhinodevil · 2026-10-25
- kalomaze 自嘲搞不到真 GPU，只能回头玩玩具基线 — kalomaze · 2026-10-25
- Jev 生态爆发：7.1 秒订机票浏览器 Agent 等 5 个开源项目盘点 — udmrzn · 2026-10-25
- AWS Interconnect 三云互通:营收不明但战略信号强烈 — DavidLinthicum · 2026-10-25
- CMU 教授买 B300 想转租跑 DeepSeek 代币给全实验室发工资 — niloofar_mire · 2026-10-25