DFlash2 原作者发布 Qwen3.8-Flash 投机解码模型,并发 1 时比 MTP 快 20%
rerri · reddit · 2026-10-19
Reddit 用户 rerri 分享 Hugging Face 上的 incoai/Qwen3.8-Flash-Next-DFlash2 模型,称由 DFlash 2 原作者发布。据其表格数据,在并发数为 1 的场景下,该模型的推理速度比 MTP(multi-token prediction)快约 20%,对低并发本地部署场景有参考价值。
「Infra」频道最新
- Poliscope 用单台 Qdrant 服务器检索全德 4800 个政务门户,查询从 20 秒降至 0.87 秒 — qdrant_engine · 2026-10-19
- MCIO 转接卡现离奇故障：GPU 因重力"掉出"PCIe 总线 — TheZachMueller · 2026-10-19
- 4 张 RTX Pro 6000 本地跑 763B DeepSeek-V4.1-Flash，输出超 500 tok/s — TheZachMueller · 2026-10-19
- 16GB 显存跑 20 秒 1080p 视频：selflift-Fish 改进版发布 — Hot_Store_5699 · 2026-10-19
- RAM 价格一年暴涨 500%，博主建议趁早入手本地 AI 硬件 — julianharris · 2026-10-19
- 长文本输出延迟最高降 65 倍,4 万词处理从 62.7 秒缩到 961 毫秒 — DanielLockyer · 2026-10-19