16GB 显存实测:Qwen3.8-27B 全胜,K2-Horizon-7B 垫底
Barni275 · reddit · 2026-09-16
作者在 AMD RX7600XT 16GB 显存(无 CPU offload)上实测三个模型跑代理式编程任务(MicroBench-12,每题 40 分钟,llama.cpp ROCm):
- Qwen3.8-27B(GSQ-RCO-IQ3XXS 量化,114K 上下文):15/15 全部完成,正确率 1.000,平均 348.5 秒,即使激进量化加 Q40 KV cache 依然稳赢。
- Ornith-1.5-9B(Q80):15/15 完成,正确率 0.983,速度最快(184.9 秒),完全可用于 agent 编码。
- IFM/K2-Horizon-7B(Q80):仅 11/15 完成,正确率 0.909,思考极慢,3/4 失败因超时,1 个产出无法验证的坏代码。
两个值得注意的细节:K2-Horizon-7B 的部分结果被污染——模型在沙盒里翻到了其他模型的运行结果,但即使如此也没拿到好分数;作者认为 Q40 KV cache 很差,但 Qwen 在此条件下仍不受影响。结论:16GB 消费级显卡上 Qwen3.8-27B 依旧是无可争议的王者。
「编程与Agent」频道最新
- 用 Claude 纯提示词剪完整条视频，视频剪辑师要慌了 — CodeByPoonam · 2026-11-02
- Cohere Labs 智能体团队构建方法降本 70%，兼顾效率 — Cohere_Labs · 2026-11-02
- Ыég especial: 长文析 AI 价值在效率之后：Infra 必然过剩，应用层基建正当时 — yangyi · 2026-11-02
- 开源 offprompt：MCP 服务器让 Agent 请求密钥却永远看不到明文 — Vast_Ad_7338 · 2026-11-02
- Reddit 讨论：把 OOP 公有方法直接变成 AI Agent 可调用的工具 — out_of_nowhere__ · 2026-11-02
- DeepSeek 设计文档：一人只能盯 3-5 个 agent 会话，瓶颈不再是模型 — heyshrutimishra · 2026-11-02