专题 · FULL STORY
Qwen3.8-27B:小模型实测惊艳各方
阿里Qwen3.8-27B发布后迅速引发关注:用户在RTX 4060 Ti上以Q3量化完成多项编程任务表现超预期,基准测试亦显示其在单张GH200上达129.8 tok/s推理速度,小模型挑战百倍规模对手的叙事逐步成形。
2026-08-20 ~ 2026-08-22 · 2 集 · 6 条
第 1 集 · Qwen3.8-27B实测亮眼:小模型挑战百倍规模对手(2026-08-20,3 条)
阿里Qwen3.8-27B模型近期获得多方好评。有用户在RTX 4060 Ti 16GB上运行其Q3量化版本,一次性完成多项严肃编程任务,表现超预期;Arena发布首测视频,将其与规模大100倍的模型(包括DeepSeek v4等)对比;开发者也盛赞该模型不仅基准测试出色,且专门为实际干活优化,实用性突出。
- 开发者盛赞 Qwen 3.8 27B 模型:刷分更实用 — rudrank · 2026-08-20
- Qwen 3.8 27B 轻量化评测:Q3 量化下表现超预期 — AltruisticList6000 · 2026-08-21
- Qwen3.8-27B 对战百倍大模型,首测视频出炉 — arena · 2026-08-22
第 2 集 · Qwen3.8-27B 单张 GH200 跑出 129.8 tok/s(2026-08-21,3 条)
基准测试显示,Qwen3.8-27B(BF16)模型在单张 NVIDIA GH200 上实现了 129.8 tokens/s 的推理速度,测试配置为 2048 输入 token 与 1536 强制输出 token,采用 vLLM 框架配合 DFlash2 技术栈。在多轮性能对比中,vLLM 在多数测试中胜出,SGLang 虽整体落败,但仍在 MTP-1 和 DSpace 相关测试中取得优势。
- Qwen3.8-27B 在单张 GH200 上跑出 129.8 tok/s — MaziyarPanahi · 2026-08-21
- Qwen3.8-27B 单卡跑出 129.8 tok/s,vLLM 胜出 — MaziyarPanahi · 2026-08-21
- Qwen3.8 评测:vLLM 性能表现最佳 — MaziyarPanahi · 2026-08-21