博主实测 Qwen3 27B 稠密模型：首 token 延迟 2.4 秒、prefill 671 tok/s
draginol · x · 2026-10-18
博主 draginol 公布了对 Qwen 3.8 27B 稠密模型的本地基准测试截图，并称后续会做更多基准测试。从配图看：prefill 速度约 671 tok/s（1K 上下文、跳过部分计算），decode 流式输出约 22 tok/s，首 token 延迟约 2,393 毫秒；他还在回复中给出了绕过某个问题的调整方法。这是第三方对该新模型的早期实测数据之一，具体对比结论有待其后续更多基准测试。
所属事件:开发者实测本地 Qwen 27B：Surface Pro 上秒做小游戏(2 条相关)→
「Infra」频道最新
- SGLang Summit 赞助商一周从 11 家增至 36 家,嘉宾含 Lilian Weng — BanghuaZ · 2026-10-18
- Yacine 自嘲：绩效按吉瓦时算，不够烧电会被半夜叫醒 — yacineMTB · 2026-10-18
- 爆料称 OpenAI 四月日处理 token 已约 15 万亿，现在或更高 — JoshPurtell · 2026-10-18
- 1.68x 推理加速落地，可直接加速 GRPO 强化学习训练 — yacineMTB · 2026-10-18
- OpenRouter 仅占可触达市场一小部分，日万亿 token 只是零头 — sloppenheimer · 2026-10-18
- 覆盖 Bedrock/Azure/Vertex 三万条价格，开发者做出云端模型变动雷达 — jsandhu0780 · 2026-10-18