LLM-as-a-Coach 把评审反馈变成可迁移经验知识
iScienceLuvr · x · 2026-07-21
这篇论文提出 Experiential Learning (EL),把常见的 LLM-as-a-Judge 反馈模式改造成 LLM-as-a-Coach。
核心做法不是把反馈压成一个标量分数,而是让 coach 对每个 on-policy 回复进行评估,并把这些评估蒸馏成可迁移的“经验知识”;这些知识再去条件化 teacher model,最后通过 on-policy context distillation 被策略吸收。
作者声称,相比传统的 rubric-based RL,EL 在留出集和未见过的开放式任务上表现更好,也比单纯的标量奖励更能保留高质量答案之间的细粒度偏好,同时对 reward hacking 更不敏感。
所属事件:微软提出LLM-as-a-Coach以经验学习优化训练(4 条相关)→
「研究」频道最新
- Cognition SWE-2 用 KKT 对偶优化长度惩罚,一次 RL 推移 Pareto 曲线 — YouJiacheng · 2026-09-11
- VidMap 用 RoMa 粗匹配全帧、精细匹配仅限关键帧 — ducha_aiki · 2026-09-11
- Bug Hunt Bench 作者补充:榜单噪声幅度约 2-3 分 — PawelHuryn · 2026-09-11
- 台球计算模型登 PNAS:二维系统已存在不可判定性,可跑通用计算机 — eigensteve · 2026-09-11
- 新研究:从仿射变换与重力线索求解绝对位姿 — ducha_aiki · 2026-09-11
- LoMa 论文发布 REALLY HardPairs 数据集,入选 ECCV 2026 — ducha_aiki · 2026-09-11