Inco AI 推出 DFlash 2，推理提速最高 4.6 倍
igilitschenski · x · 2026-08-19
Inco AI 发布推理加速技术 DFlash 2，相比标准自回归解码，可实现最高 4.6 倍的加速。实测显示，Qwen3.8-27B 模型在 M5 Max MacBook Pro 上可达 70 tok/s。该技术由 Z Lab 孕育并在 Inco AI 升级，旨在提升前沿模型及个人 AI 设备上小模型的推理性能。
所属事件:Inco AI 发布 DFlash 2，MacBook 推理提速至 4.6 倍(4 条相关)→
「Infra」频道最新
- Google 量子芯片 Willow 制备 magic states 达 99.99% 精度创纪录 — ZeroStateReflex · 2026-10-16
- OCP 大会最后一日，Nvidia MGX 电源机架场次仍座无虚席 — firstadopter · 2026-10-16
- Intel 用 4 张 160GB 风冷 GPU 卡跑通 816B 参数 Muse Spark Open — BenBajarin · 2026-10-16
- 两台 Mac Studio 跑通 816B 参数模型：4 万美元替代 50 万算力 — charles_irl · 2026-10-16
- Filecoin 主网上线六年，转向 AI 时代存储并推出 S3 对象存储 — juanbenet · 2026-10-16
- PrismML 发布 Bonsai 2 三值模型:9B 仅 2GB 可跑手机 — gajesh · 2026-10-16