DFlash 2 发布：苹果 M5 Max 跑 Qwen3.8-27B 达 70 tok/s
Lianhuiq · x · 2026-08-19
Inco AI 发布 DFlash 2 推理优化技术。演示显示，Qwen3.8-27B 在 M5 Max MacBook Pro 上达到 70 tok/s，速度是自回归解码的 4.6 倍。
核心改进：
- 在约 1% 的延迟开销下，每次验证 pass 的输出增加 20% 以上。
- 通过并行起草整个 token 块，而非传统的逐 token 自回归起草。
- 生态系统支持广泛，已被 NVIDIA、Google、CoreWeave 等集成。
所属事件:Inco AI 发布 DFlash 2，MacBook 推理提速至 4.6 倍(4 条相关)→
「Infra」频道最新
- 本地 AI 不是隐私功能而是路由问题：任务该跑在笔记本、内网还是云端 — bigdata · 2026-10-16
- 把 Agent 工作从 GPU 挪回 CPU，让动作更持久可预测 — cramforce · 2026-10-16
- 首个 TPUv7 Agent 基准成绩:vLLM 服务下每美元性能超 GB300 NVL72 达 1.42 倍 — vllm_project · 2026-10-16
- Phison CEO 称 CXMT 内存恐慌是“市场鬼故事”，明年的问题是缺料不缺单 — BenBajarin · 2026-10-16
- Ben Bajarin：算力未来是可互换的，超大规模厂商正为工作负载自由布局 — BenBajarin · 2026-10-16
- AirLLM 逐层加载：2.8 万亿参数模型宣称跑进 4GB 显存 — Aiden_Tech_Ai · 2026-10-16