经验蒸馏复现：保住 44.1% 的代理 ICL 增益

burny_tech · x · 2026-07-29

一组作者对论文 《Sample-Efficient Learning from Agent Experience》 做了小规模复现，结论是：经验蒸馏可以把代理在上下文里的学习收益，部分“压缩”进模型参数里。

• 他们用 GPT-5.6-Sol 和 Fable 5 组成研究代理集成，在 SWE-smith 任务上，用 Tinker 对 Qwen3.5-9B 做后训练。
• 复现结果显示，EPD（Experience to Policy Distillation）保留了 44.1% 的 ICL 增益；而传统 SFT 几乎没有保住这部分收益，图里显示为 0%。
• 两个消融结果也很反直觉：
• 只拿每个任务最后一次成功试验做 SFT，反而比“把所有 trial 都拿来做 SFT”更差；
• 每个 trial 采样 4 条 teacher 序列，在步数相同或按比例增加时，表现都不如只采样 1 条。
• 配图里，Fresh ICL 仍是最强基线，而 EPD 的不同变体在通过率和归一化收益上都介于 SFT 和 ICL 之间。

原文链接 →

「编程与Agent」频道最新

• 10 个让 AI Agent 拆解应用与游戏的开源逆向工具仓库 — victor_explore · 2026-10-16
• 「现在管 AI Agent 像理线缆不是写代码」，CTO 角色正在重构 — HankYeomans · 2026-10-16
• 创业者吐槽 AI agent 用不起来，回应称落地靠组织而非模型 — EdenEmarco177 · 2026-10-16
• 开源 Obsidian 插件目录查询 MCP：让 coding agent 先查重再造轮子 — pitfa19 · 2026-10-16
• Cheng Lou 开源 Handwired：手写权重把代码变成零训练神经网络 — dotey · 2026-10-16
• 用 Notion 搭个人记忆库，让所有 AI Agent 即插即用共享上下文 — ivanhzhao · 2026-10-16

更多「编程与Agent」频道 AI 资讯 →