DeepSeek V4 Flash 调优实录：n_max=3 速度提升 39%
Responsible_Pain3278 · reddit · 2026-08-18
作者在 Strix Halo (Ubuntu, 128GB) 上对 DeepSeek-V4-Flash-0731 进行了为期一周的 Speculative Decoding 性能测试。
- 测试配置：模型量化为 UD-IQ3XXS，使用 Q6 attention，对比 DSpark Drafter 的 Q80 与自量化 Q2KS 版本。
- 核心结论：
- 最佳 nmax：nmax=3 达到峰值，平均速度 28.5 tok/s（1.39× 基线 20.48 tok/s）。
- 量化选择：Q2 与 Q8 表现差异极小（1-3%），建议占用更小的 Q2 版本 (6.45 GB)。
- 场景差异：代码/数学任务提升显著（最高 1.52×），散文/翻译提升有限（1.1-1.2×）。nmax 5-7 仅在高接受度任务（如重复文本）有效。
- 实战配置：作者给出最终运行命令（含 ngram-mod, max thinking effort 等），并提醒 64k 窗口测试数据不代表 128k 混合场景，实际预期速度为 22-28 tok/s。
「Infra」频道最新
- Google Willow 芯片量子纠错降 40 倍，比特币 Q-Day 或提前 — jamestagg · 2026-10-16
- Vibe coding 数据管道易,亿级生产可靠难:八大数据工程课题清单 — Zachly · 2026-10-16
- 大型数据中心仅约50-150个常驻岗位,微软首楼约50名全职员工 — brezina · 2026-10-16
- 2027 年笔记本将跑 Opus 5.5 级模型？Qwen 27B 数据佐证 — cephaloform · 2026-10-16
- Oracle 一周跌 12%、较 6 月高点近腰斩，市场用脚投票 OpenAI 敞口 — alvelda · 2026-10-16
- 美国数据中心暂停令突破 400 起，AI 多头称这反而利好 AI 长期发展 — kevinsxu · 2026-10-16