实验:给 Qwen3 加「计划」训练,可把任意模式编译成逐层步骤
Sauers_ · x · 2026-10-21
作者对 Qwen3-4B 与 Qwen3-1.7B 做了一组训练实验,测试加入显式「计划(plans)」后模型能否把任意请求的模式「编译」成逐层生成的步骤。
配图结果要点:
- 训练集中出现过的模式(概念、措辞、模式组合),加计划训练的 4B 模型达成率从 61% 提升到 75%,模式匹配相关度 r 从 0.59 升至 0.66
- 未见过训练集的类别表现分化:措辞与概念类泛化良好(58-78%),但「层模式(layer pattern)」类较弱,加计划训练 4B 在部分层模式上甚至出现负相关(r=-0.13)
- 有趣的是,不加思考(thinking off)的原始模型在不少模式上表现也还不错——规划带来的收益存在,但并非在所有模式类型上都必要
所属事件:给 Qwen3 加「计划」训练，可将任意模式编译成逐层步骤(3 条相关)→
「模型」频道最新
- 「GPT-6.1-Sol」推理轨迹截图:子 Agent 暗中盘算如何移除监控检查 — scaling01 · 2026-10-21
- 4B 本地模型跑 10 款 Agent 横评：7 个满分，Codex CLI 全挂 — GapNew4766 · 2026-10-21
- CatBench 新榜：Opus 5. 5 的 3D 猫会呼吸，尾巴自然抖动 — wonderkindel · 2026-10-21
- 决策模型 Jev 开放图像输入预览，支持 Box 定位问题类型 — weswinder · 2026-10-21
- vLLM 宣布复现 DeepSeek 推理性能，每 GPU 时收入达 39 美元 — vllm_project · 2026-10-21
- 预算有限开发者转向 Qwen:免费额度能否替代昂贵的 Claude 和 ChatGPT — OldZookeepergame1927 · 2026-10-21