DeepSeek V4 Flash 本地量化跑分：MacBook 运行实测
corruptbytes · reddit · 2026-08-09
开发者分享了 DeepSeek V4 Flash 在本地量化环境下的 SlopCodeBench 测试结果。使用 antirez q2-q4 imatrix 量化方案在 MacBook M5 Max 上运行，虽然速度远慢于托管 API，但通过切换测试框架（harness）至 pi 0.84.0，弥补了部分量化带来的智力损失。
跑分对比（Strict 项）：
- 本地量化 (run B)：5/17 (29.4%)
- Opus 5 (API)：4/17 (23.5%)
- DeepSeek V4 Flash (API)：3/17 (17.6%)
测试表明，合理的框架配置对本地量化模型的发挥至关重要。
「Infra」频道最新
- Nscale 数据中心液冷屡漏半年起火，挪威查出10项安全违规 — saranormous · 2026-10-16
- WSL 3.0 发布:内置原生容器,高频系统调用内核耗时降约 16% — solyarisoftware · 2026-10-16
- 魔改 22GB RTX 2080 Ti 跑本地 LLM,值不值?作者求实测经验 — Dave86ch · 2026-10-16
- Intel 开源低比特量化库 neural-compressor:支持 FP4/MXFP4/NVFP4 — HaihaoShen · 2026-10-16
- 770B 参数压进 214GiB：腾讯混元量化团队拆解 Hy4 Preview 压缩术 — coolmum18 · 2026-10-16
- TokenSpeed MLA 2 适配英伟达 Vera Rubin，解码内核较 B200 提速 3.44 倍 — zhyncs42 · 2026-10-16