320MB LoRA 让 Qwen3.8-27B 关思考也能打:SWE-bench Pro 43.1%
HauntingMoment · reddit · 2026-11-19
Nous Research 团队在 Hermes Agent 环境里,对冻结的 Qwen3.8-27B 做 RL 训练,只加一个 r=32、约 320MB(F16 GGUF)的 LoRA 适配器,第三个 harness 适配器(此前有 pi 和 OpenCode 版本)。
关键结果(同一任务、同设置、每任务一次机会):
- SWE-bench Pro(hard 51):基础模型 29.4% → 适配器 43.1%,接近开思考的 45.1%;开思考后达 51.0%
- Terminal-Bench 2.1:关思考即达 58.8%,追平基础模型开思考(xhigh)的成绩
- 关思考下,Terminal-Bench 多解出 19 题、少错 7 题(p=0.03),SWE-bench Pro 多解出 10 题、少错 3 题
换言之,这个小适配器让模型不开长思考也能拿到接近开思考的准确率,token 消耗减少 3.5–4.4 倍。
已开源 GGUF 与模型卡,可用 llama.cpp 一条命令本地跑(含 llama serve 示例、vLLM/transformers/PEFT 合并说明),所有评测轨迹公开可查,完整配方周五发博客。
「编程与Agent」频道最新
- 微软开源 openclaw-dev:一条命令在 Azure 部署常驻 AI 助手 — adnan_hashmi · 2026-11-19
- NousResearch 推出 Hermes 适配器:Qwen3 SWE-Bench Pro 成绩大涨 — ariG23498 · 2026-11-19
- 用 Claude 和即梦 CLI 制作 6 分 46 秒哈勃纪录短片 — xiaohu · 2026-11-19
- 编码 agent 三大失控:改测试凑绿、越界改文件、擅动数据库 — Common_Dream9420 · 2026-11-19
- 6 个 MCP Server 吃掉大块上下文,实测总结出三条瘦身经验 — sandeepK1125 · 2026-11-19
- 「再生式软件」主张以意图为唯一真相源,代码可随时重生成 — gamagamer · 2026-11-19