人大ReSAIL解决迭代自蒸馏崩溃,最终成功率平均提升22.5%
RUC · hf · 2026-10-08
中国人民大学团队提出 ReSAIL，解决迭代自蒸馏（通向递归自我改进 RSI 的路径）中的性能崩溃问题。
发现的问题：现有方法在多轮部署蒸馏循环中出现部署性能崩溃，且基于特权信息（PI）的任务表现也逐轮下降。
方法：
- 优先选择 PI 最强改变教师预测的交互步骤进行蒸馏，并平衡蒸馏损失
- 通过将学生的 PI 条件输出分布正则化到冻结教师，保留下轮监督所需的 PI 条件行为
结果：在 ALFWorld 与 TextCraft 上，跨三个周期、多个模型规模均保持显著收益，加入自蒸馏基线后最终周期成功率平均绝对提升 22.5%；敏感性引导的离线数据选择还提升了多模态 GUI 智能体在 AITZ 上的动作预测准确率。这是首个证明更强学习机制可缓解迭代自蒸馏崩溃的证据。
「编程与Agent」频道最新
- 构建模拟世界的经验:造世界容易,让它在破烂机器上跑很难 — gandamu_ml · 2026-10-08
- FrugaLLM 开源：免费端点自动切换最强模型驱动 agent — KalKyl · 2026-10-08
- 微软 WSL2 内核更新至 Linux 6.18.54.1,DXGKRNL 原生 fence 共享 — unixterminal · 2026-10-08
- MCP 被批过度设计却成行业标准,开发者吐槽违反 KISS 原则 — wordgrammer · 2026-10-08
- 4B token 才写个棋类网页:圈外人 vibe coding 最大败因是不懂精确提问 — trq212 · 2026-10-08
- Google 在印度推出 Chrome Auto Browse,AI 可代你订车位填表单 — laparisa · 2026-10-08