Perplexity 用提示引导自蒸馏后训练,工具调用错误降 21%
inductionheads · x · 2026-09-23
Perplexity 发布新研究,介绍其多阶段后训练流程:SFT、RL、RFT,以及最后阶段的在策略自蒸馏(OPSD)。动机是 RL 环境虽真实,但仍缺乏生产环境中真实用例的多样性与复杂度,sim2real 存在差距。
OPSD 的核心是从「有问题轨迹」中学习:
- 从用户后续对话中的负反馈、以及工具调用报错中构造提示(hints);
- 用自蒸馏方式修正这些错误轨迹;
- 训练方法上组合 RFT(forward KL/CE)与 OPSD(reverse KL),同时学习成功与失败轨迹。
团队用该方法对 Computer 模型做了后训练(论文中以 GLM-5.2 为例),线上 A/B 测试显示后训练的 checkpoint 相比早期版本工具调用失败率相对降低 21.2%。
所属事件:Perplexity 公布自蒸馏后训练法,工具调用失败率降 21.2%(6 条相关)→
「编程与Agent」频道最新
- Nano Banana Pro+Kling+免费口型工具,纯工作流做出整支AI音乐视频 — cocktailpeanut · 2026-11-12
- Cloudflare 演讲:用 Jev 等超快模型替换 agent 循环部分调用可大幅提速 — michellechen · 2026-11-12
- 有人整理 15 种 AI Agent 设计模式,分单体、多体、反馈三层 — MaryamMiradi · 2026-11-12
- Antigravity 推出浏览器使用能力:搜索写码到在线验证闭环 — rseroter · 2026-11-12
- Prettier 3.10 发布:新增 Flow/JS 语法与 Zig 高性能插件 — Vjeux · 2026-11-12
- 从零重写 CI:Graphide 跑速达 GitHub 10-20 倍 — ycombinator · 2026-11-12