DeepSeek V4 Flash 量化实测:低精度版本大幅提速且无损质量

近期有开发者在双 RTX 5090/6000 Pro Blackwell 及 128GB 显存硬件环境下,对 DeepSeek V4 Flash 的 Unsloth Q8 与 Q3 xxs(IQ3XXS)量化版本进行了详细基准测试。结果显示,低精度的 Q3 版本运行速度比 Q8 快出数倍,且能实现翻倍提速,同时保持模型质量基本无损。

2026-08-04 ~ 2026-08-04 · 2 条相关