Qwen3.6/3.8 投机解码实测提速，最新 draft 模型再快约 10%
teortaxesTex · x · 2026-11-05
开发者 hikettei 分享了基于其投机解码（speculative decoding）研究让 Qwen3.6/3.8 推理「跑飞起来」的成果，并感谢团队 Metal 端优化的贡献，表示期待 Qwen4 发布。norpadon 补充：这些是较旧的基准数据，使用最新发布的 draft 模型后还能再快约 10%。
「Infra」频道最新
- 彭博专栏作家:想建数据中心或靠其吃饭的人必读他两个月前的文章 — asusarla · 2026-11-05
- Google 发布 AlloyDB Express:2 秒建库、闲置自动归零、面向编码 Agent — rseroter · 2026-11-05
- SGLang Summit 2026 议程亮相：LinkedIn 广告模型 10K QPS、NVIDIA 上 Vera Rubin — DavidBennett__ · 2026-11-05
- 27 分钟讲透 GPU、TPU 与 Groq LPU 的架构哲学差异 — yacinelearning · 2026-11-05
- 模型回答的证明成本约为vLLM推理的70-95倍，更适合做审计层 — petrusenko_max · 2026-11-05
- AWS 实战教程:用决策模型为 Agent 评测加校准置信度打分层 — AWS ML Blog · 2026-11-05