专题 · FULL STORY

Qwen3.8-27B:小模型实测惊艳各方

阿里Qwen3.8-27B发布后迅速引发关注:用户在RTX 4060 Ti上以Q3量化完成多项编程任务表现超预期,基准测试亦显示其在单张GH200上达129.8 tok/s推理速度,小模型挑战百倍规模对手的叙事逐步成形。

2026-08-20 ~ 2026-08-22 · 2 集 · 6 条

第 1 集 · Qwen3.8-27B实测亮眼:小模型挑战百倍规模对手(2026-08-20,3 条)

阿里Qwen3.8-27B模型近期获得多方好评。有用户在RTX 4060 Ti 16GB上运行其Q3量化版本,一次性完成多项严肃编程任务,表现超预期;Arena发布首测视频,将其与规模大100倍的模型(包括DeepSeek v4等)对比;开发者也盛赞该模型不仅基准测试出色,且专门为实际干活优化,实用性突出。

第 2 集 · Qwen3.8-27B 单张 GH200 跑出 129.8 tok/s(2026-08-21,3 条)

基准测试显示,Qwen3.8-27B(BF16)模型在单张 NVIDIA GH200 上实现了 129.8 tokens/s 的推理速度,测试配置为 2048 输入 token 与 1536 强制输出 token,采用 vLLM 框架配合 DFlash2 技术栈。在多轮性能对比中,vLLM 在多数测试中胜出,SGLang 虽整体落败,但仍在 MTP-1 和 DSpace 相关测试中取得优势。