Inco AI 推出 DFlash 2,推理提速最高 4.6 倍

igilitschenski · x · 2026-08-19

Inco AI 发布推理加速技术 DFlash 2,相比标准自回归解码,可实现最高 4.6 倍的加速。实测显示,Qwen3.8-27B 模型在 M5 Max MacBook Pro 上可达 70 tok/s。该技术由 Z Lab 孕育并在 Inco AI 升级,旨在提升前沿模型及个人 AI 设备上小模型的推理性能。

所属事件:Inco AI 推出 DFlash 2,Mac 推理提速最高 4.6 倍(3 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →