9.5 小时实测:小模型在 3060 上跑 Claude Code,162 项任务得 94%
SummarizedAnu · reddit · 2026-11-22
楼主用 RTX 3060 12GB + 16GB 内存跑 Inkling 2 Mini(Q4KM 量化),搭配 Claude Code 做了 9.5 小时自主测试,反驳此前社区对该模型幻觉率高的批评。
测试设置
- Unsloth UD Q4KM 量化 + Unsloth 版 llama.cpp(mainline 尚不支持该模型)
- 80k 上下文,生成约 14 tok/s,prompt 处理 150-250 t/s
- Claude Code 作为 harness,自动压缩(compaction)正常运行
结果:162 项任务完成 114 项,均分 94%
- 幻觉陷阱、工具调用、长文档、推理数学、编码隐藏测试、指令遵循、prompt injection 防护全部 100%
- 12 个不可回答的问题,零次编造答案;29 次工具调用全部从失败中恢复,且从未碰删除命令
- 自报置信度约 97% 时实际正确率约 93%,校准相当诚实
- 9.5 小时前后同一批简单任务均 100%,无性能衰减
短板
- 业务数据题 87%:多步嵌套零件清单计算时漏乘数量、漏看生产峰值周,且都是「自信但错误」
- 记忆题 20%:4 次都如实说记不住简报而非编造,作者认为这是 Claude Code 压缩上下文所致,不算模型的锅
测试本身全由代码生成任务和判分,无 AI judge、无公开基准泄漏风险,是该硬件约束下目前表现最好的模型。
「编程与Agent」频道最新
- 开发者将 Agent 接入微信:一个 super agent 管理所有 issue — jiayuan_jy · 2026-11-22
- FitMetrics 用 Grok Build+27 个 Bot,单月合并 1800 个 PR — XFreeze · 2026-11-22
- OpenAI 推出 Sign in with ChatGPT,本地应用可直接用套餐额度跑模型 — alexcovo_eth · 2026-11-22
- 2027 年顶级编程语言:YAML、JSON、Markdown、Bash — kmeanskaran · 2026-11-22
- 让 Agent 做对抗性审查,它为何反复「翻面」左右横跳 — EconomicsEvery4493 · 2026-11-22
- 开发者开源 stonks MCP:让 Agent 自主买卖金融工具 — QuixiAI · 2026-11-22