实测称 Q4 以下量化对本地 Agent 模型影响显著

作者在 RTX 5080 上进行两周量化测试发现，多数量化档位在统计上无差异，量化并非连续质量旋钮，且 MoE 模型受影响远小于稠密模型，通常降至 Q4 以下质量才明显下降。

2026-08-23 ~ 2026-08-23 · 3 条相关

• 实测报告：量化位宽对现代模型影响有多大？ — KitchenAmoeba4438 · 2026-08-23
• 5080 上两周量化对比实测：Q4 以上多数量化档位统计上无差异 — KitchenAmoeba4438 · 2026-08-23
• 量化对本地 Agent 模型影响测试：Q4 以下才明显降质 — KitchenAmoeba4438 · 2026-08-23