Reddit 疑问:同量化同配置,Qwen 3.8 为何比 3.6 更慢?
Specialist-2193 · reddit · 2026-08-19
用户在 Reddit 提问:在完全相同的量化(Q4KXL + MTP)、相同硬件(RTX 4090)、最新 llama.cpp、150k 上下文的条件下,Qwen 3.8 的吞吐却比 3.6 更慢,而两者架构相同、MTP 预测水平相近,按理 tps 应一致。用户疑惑除了 thinking 输出长度外还有什么原因导致变慢。属于本地推理性能排查的具体技术讨论。
「Infra」频道最新
- 大型数据中心仅约50-150个常驻岗位,微软首楼约50名全职员工 — brezina · 2026-10-16
- 2027 年笔记本将跑 Opus 5.5 级模型?Qwen 27B 数据佐证 — cephaloform · 2026-10-16
- Oracle 一周跌 12%、较 6 月高点近腰斩,市场用脚投票 OpenAI 敞口 — alvelda · 2026-10-16
- 美国数据中心暂停令突破 400 起,AI 多头称这反而利好 AI 长期发展 — kevinsxu · 2026-10-16
- 微软研究院发布 Magnetar:最快 zkVM,比现有方案快 10-39 倍 — jedisct1 · 2026-10-16
- Bonsai 2 2B 端侧模型登 iPhone:120 token/s,速度两倍于 Qwen 3.5 2B — cephaloform · 2026-10-16