arXiv 论文《Self-Evolving Agents through Privileged Retrospective Distillation》
rohanpaul_ai · x · 2026-10-23
同一篇 Meta 论文的 arXiv 链接帖(arXiv:2610.27495),作者 Yuhang Zhou 等 8 人。
论文提出 Retrospective Self-Distillation(RSD):自进化智能体自然积累的轨迹通常缺少标准答案或验证器奖励,RSD 让同一模型利用「特权回顾上下文」(跨任务经验教训、turn 级反思、已知结局的未来视角)作为老师对自己实际动作重新打分,再通过在策略自蒸馏回传。经验库随轮次增长,回顾上下文每轮刷新,实现模型、数据与监督信号共同进化。另引入 frontier-guided context-policy evolution,由更强前沿模型对上下文构建规则提出受限编辑。
在 ALFWorld、ScienceWorld、SearchQA 上配合 Qwen3-8B/14B,RSD 相对基座最高提升 59.7%,前沿引导进化再带来最高 44.7% 相对提升。
「研究」频道最新
- Meta 论文:RSD 让 AI 智能体从无标注历史轨迹中自我进化 — rohanpaul_ai · 2026-10-23
- Meta Expert 论文:跨层共享专家,MoE 仅用 70-80% 专家追平性能 — pmttyji · 2026-10-23
- 机器人公司实测：12 台测试机器人中 10 台无需微调即可上手 — micoolcho · 2026-10-23
- EmbodiedEvo:让机器人智能体在试错中积累 Skills 与 Lessons 自我进化 — jiqizhixin · 2026-10-23
- PACE 量化器:每几个 token 才舍入一次,4-bit 状态量化逼近 8-bit 精度 — pmttyji · 2026-10-23
- LAW 提出「去扩散化」语言模型：纯自条件化取代扩散采样 — ArnaudDoucet1 · 2026-10-23