DFlash2 草稿模型实测提速 17%，Q4 头仅 350MB 且支持视觉
returnity · reddit · 2026-10-31
作者在 Apple Silicon（M5 Max）上用 llama.cpp v0.8.0 实测了 Qwen3.8-Flash-Next 的 DFlash2 草稿模型，与 MTP 对比，平均提速 +17%（几何均值 75.1 → 87.9 tps）。
关键数据与结论：
- 代码类 +18%、列表类 +39%、6k 上下文 +19%；prose 类 -3%（在噪声范围内）
- 最优参数：DFlash2 用 n-max=5、p-min=0.75（MTP 为 n-max=3）
- Q40 草稿头仅 350MB（此前 MTP 头 2.2GB），Q40 与 Q80 在速度和接受率上无差异，推荐 Q40
- 长上下文（25K）下 DFlash2 优势消失，MTP 更平稳
- 与 27B 版不同，此版本支持视觉输入，图片提示词接受率正常
作者已自行量化并发布了 GGUF。对本地部署用户是立即可用的免费升级。
「Infra」频道最新
- 联发科首颗 AI 加速器 9 月出货，Q4 目标上调至 25 亿美元 — BenBajarin · 2026-10-31
- AWS 连续六季加速增长 39%，积压订单达 5780 亿美元 — BenBajarin · 2026-10-31
- Intel Q3 数据中心收入同比涨 78%，PC 业务反成拖累 — BenBajarin · 2026-10-31
- 西门子 EDA 用 NVIDIA NeMo Gym 优化芯片设计 Agent,评分 55%→95% — NVIDIAAI · 2026-10-31
- 欧盟 AI 能源面临双重时钟:电网灵活性管当下,核聚变仍是远期研发 — ingliguori · 2026-10-31
- Matthew Berman 开源 Device Monitor:一个窗口监控全网所有机器 — MatthewBerman · 2026-10-31