本地量化模型对决 Claude：9 个真实 bug 修复实测，量化掉分更掉时间
FeydRowan · reddit · 2026-11-02
Reddit 用户用自己写的推理引擎（2x RTX 5070 Ti + 96GB 内存）做了一场本地量化模型 vs Claude 的修 bug 实测：9 个从未公开的 C++/CUDA 真实回归 bug，agent 无网络、无编译环境、纯靠推理，每任务 3 次运行，由 Claude Opus 5 盲评并与自动评分对照（相关系数 r=0.79）。
主要结果（评委分 0-1）：
- Claude Opus 5.5：0.74，每任务仅 16k tokens / 3 分钟，遥遥领先
- Claude Sonnet 5.5：0.58（8k tokens / 1 分钟）
- Qwen3.8-Flash-Next NVFP4：0.50，本地最好，达 Haiku 5.5 水平，但需 53k tokens / 10 分钟
- Qwen3.8-27B 3-bit：0.39；Gemma 4 26B-A4B 仅 0.07
关于量化的关键发现：
- Flash-Next 仅对 experts 做 3-bit：分数基本无损（-0.02），近乎免费
- 27B 做 3-bit：分数不降反微升（+0.05，在噪声内），但每任务多生成 40% tokens，每 bug 耗时从 13 分钟涨到 18 分钟
- 结论：量化的代价不是分数下降，而是「想得更久才到同一处」——只看 tok/s 会误判性价比
作者也坦承 9 任务置信区间约 ±0.2，差距小于 0.1 的模型算抛硬币。
「编程与Agent」频道最新
- 昆虫贴纸库开源:主 Agent 统筹绘制+独立审核的 AI 原生工作流 — AlchainHust · 2026-11-02
- 19 岁学生用 Claude Code 两天搭交易机器人，自称获利 75 万美元 — aftahi_ai · 2026-11-02
- 独立开发者用 Opus 5.5 六周独自做出超级英雄 MMO,消耗 30 亿 token — superpikapoo · 2026-11-02
- 博主用 Opus 5.5+Tripo 24 小时做出《原神》级动作游戏 Demo — AlchainHust · 2026-11-02
- 用 Codex 加 agent-desktop 跑月度记账,3 小时活缩到 1 小时内 — EXM7777 · 2026-11-02
- 10 天 535 次 commit:开发者用 Claude Code 打造免费俯视角提取射击游戏 — spiritosito · 2026-11-02