DFlash 2 发布:苹果 M5 Max 跑 Qwen3.8-27B 达 70 tok/s
Lianhuiq · x · 2026-08-19
Inco AI 发布 DFlash 2 推理优化技术。演示显示,Qwen3.8-27B 在 M5 Max MacBook Pro 上达到 70 tok/s,速度是自回归解码的 4.6 倍。
核心改进:
- 在约 1% 的延迟开销下,每次验证 pass 的输出增加 20% 以上。
- 通过并行起草整个 token 块,而非传统的逐 token 自回归起草。
- 生态系统支持广泛,已被 NVIDIA、Google、CoreWeave 等集成。
所属事件:Inco AI 发布 DFlash 2,MacBook 推理提速至 4.6 倍(4 条相关)→
「Infra」频道最新
- Google Willow 芯片量子纠错降 40 倍,比特币 Q-Day 或提前 — jamestagg · 2026-10-16
- Vibe coding 数据管道易,亿级生产可靠难:八大数据工程课题清单 — Zachly · 2026-10-16
- 大型数据中心仅约50-150个常驻岗位,微软首楼约50名全职员工 — brezina · 2026-10-16
- 2027 年笔记本将跑 Opus 5.5 级模型?Qwen 27B 数据佐证 — cephaloform · 2026-10-16
- Oracle 一周跌 12%、较 6 月高点近腰斩,市场用脚投票 OpenAI 敞口 — alvelda · 2026-10-16
- 美国数据中心暂停令突破 400 起,AI 多头称这反而利好 AI 长期发展 — kevinsxu · 2026-10-16