Inco AI 推出 DFlash 2,Mac 推理提速最高 4.6 倍

Inco AI 于 8 月 19 日发布推理加速技术 DFlash 2,相比标准自回归解码可实现最高 4.6 倍加速。实测与演示均显示,在搭载 M5 Max 芯片的 MacBook Pro 上运行 Qwen3.8-27B 模型时,推理速度可达 70 tok/s,显著提升了大模型在苹果本地设备上的运行效率。

2026-08-19 ~ 2026-08-19 · 3 条相关

另有 1 条近重复转述:songhan_mit