DeepSeek V4 Flash 本地量化跑分:MacBook 运行实测

corruptbytes · reddit · 2026-08-09

开发者分享了 DeepSeek V4 Flash 在本地量化环境下的 SlopCodeBench 测试结果。使用 antirez q2-q4 imatrix 量化方案在 MacBook M5 Max 上运行,虽然速度远慢于托管 API,但通过切换测试框架(harness)至 pi 0.84.0,弥补了部分量化带来的智力损失。

跑分对比(Strict 项):

测试表明,合理的框架配置对本地量化模型的发挥至关重要。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →