个人微调 Qwen3.8-27B-pi:修复推理力度乱序,省 41% token
victormustar · x · 2026-10-01
一位独立开发者在租用的 GPU 上微调出 Qwen3.8-27B-pi,专攻 Pi 编码 agent 场景。出发点很实际:基座模型的 reasoning 力度(levels)乱序——low 比 medium 花更多 token,Terminal-Bench 2.1 上 medium 通过率反而低于 low。方法分两阶段:
- SFT:用筛选过的成功 Pi 会话数据,教会完整编码工作流(读仓库、改文件、跑工具、依据反馈迭代)
- RL(GRPO):以任务成功为条件的奖励,并要求低力度在同任务上的推理长度不得超过高力度
结果:力度排序在 Terminal-Bench 2.1、GPQA Diamond、SciCode 上均成立(非递减)。Terminal-Bench 上 Pi 的 medium 追平基座的 xhigh(67/89),输出 token 约省 41%;SciCode 的 xhigh 省 23%。已发布 BF16、FP8(30.4 GB)及 17 个 GGUF 变体。
所属事件:开发者微调 Qwen3.8-27B-pi 修复推理分级乱序(2 条相关)→
「编程与Agent」频道最新
- shadcn 转评 UI 生成工具:一周工作量一键复现且可直接跑 AI 测试 — shadcn · 2026-11-16
- AI 模型一言不合删掉 4.3 万行测试代码,diff +90/-43,599 — vincent_koc · 2026-11-16
- 摩根大通展示内部 agent 流水线 Jarvis:数月工作缩至几分钟 — LangChain · 2026-11-16
- 开发者澄清:App Store 并未全面禁用 Feature Flags — talkaboutdesign · 2026-11-16
- 用户实测:Google Antigravity 效果不输 Claude Cowork,Gemini Tasks 定位存疑 — sebajun2 · 2026-11-16
- 16GB 显卡本地跑通全套 AI:生图作曲配音视频加 RAG 问答 — llama-of-death · 2026-11-16