人大 AutoMaster:让同一个模型既当好老师又训出更强学生
RUC-AIBOX · hf · 2026-11-20
中国人民大学高瓴人工智能学院提出 AutoMaster,一个自主后训练系统。核心观察:仅凭任务成功不足以定义该强化哪些行为,成功的教师轨迹也可能包含无依据假设、无效重复和表面验证。
- 提出 Skill-FT:用自然语言技能在教师 rollout 中抑制不良习惯、激发被低估的有效行为,再用产出的轨迹微调目标模型
- LLM agent 自主完成轨迹分析、技能设计、数据选择与反馈迭代
- 在 Terminal、Search、软件工程任务上,对 4B/9B 目标模型,比用未引导教师轨迹的 Vanilla SFT 平均提升 1.42–8.99 个百分点
- 意外发现:SFT 时保留技能指令(即使评测时不用)在全部六个设置中均值表现都更高,说明保留技能上下文有助于行为内化
「研究」频道最新
- ICLR 2027 大批量 desk reject:审稿人未提交 AI 使用声明表 — algo_diver · 2026-11-20
- Chorus 论文:共享 n-gram 嵌入表缩小 87%,性能反超 DeepSeek Engram — brown2green · 2026-11-20
- NeurIPS 论文发布可合成生成的概念瓶颈模型基准,揭示新失败模式 — berkustun · 2026-11-20
- Inhabitant:LLM 智能体零训练完成 74/75 长程家居交互任务 — Yao Zhang · 2026-11-20
- EPFL 团队发布统一 3D 生成模型,一次完成药物设计对接 — HannesStaerk · 2026-11-20
- ICLR27 分数分布:4 万篇投稿中均分 3.0 仅排前 14% — May_F1_ · 2026-11-20