Qwen3.8 评测：vLLM 性能表现最佳
MaziyarPanahi · x · 2026-08-21
在 Qwen3.8-27B 模型的评测中，vLLM 在特定配置下表现最佳，赢得了性能对比。SGLang 虽然在 vLLM 处于优势的测试中落败，但仍赢得了 MTP-1 和 DSpark 指标。
所属事件:Qwen3.8-27B 单张 GH200 跑出 129.8 tok/s(3 条相关)→
「模型」频道最新
- Meta 开放权重模型 Muse Spark Open 上架 Ollama：1M 上下文、可接 Claude Code — ollama · 2026-10-16
- Bonsai 2 小型多模态模型上架 HF，2bit/三值权重可跑 WebGPU — cephaloform · 2026-10-16
- 网友晒「Opus 5.5」拼贴作品:模型开始有品味,护城河不存在 — yuwen_lu_ · 2026-10-16
- PrismML 发布 Bonsai 2 三值模型:9B 仅 2GB 可跑手机 — gajesh · 2026-10-16
- 苹果 MLX 让 816B 模型跑在 4 台 Mac Studio 上，36+ tokens/秒 — andrejusb · 2026-10-16
- vLLM 首日支持 Meta 816B 开放权重模型 Muse Spark Open — woosuk_k · 2026-10-16