研究者对 pedagogical RL 提出担忧:过度优化学生似然或过滤低概率推理
novasarc01 · x · 2026-09-29
作者认为 pedagogical RL 论文很出色,但担心过度优化 student-likelihood 会使模型趋于保守,过滤掉真正有用但低概率的推理步骤。他建议结合两种思路:先在学生分布支撑附近搜索成功轨迹,再筛选哪些 teacher/token 更新真正值得蒸馏。
所属事件:学者质疑教学法RL:学生似然代理存在盲区(2 条相关)→
「研究」频道最新
- Continual-ARC:终身任务流测智能体技能习得,多数 harness 不敌简单缓存 — unifyai · 2026-11-16
- MIT 团队发布 DySENSE:卫星图像生成对齐的城市月度建筑能耗地图 — MIT · 2026-11-16
- McGill-NLP 发布 WebArena-Pro:20 个应用 300 任务的多模态 Web Agent 基准 — McGill-NLP · 2026-11-16
- llama.cpp 无训练稀疏解码:128k 上下文解码提速 1.72 倍 — topppggg · 2026-11-16
- 训练 Qwen3-8B 驱动模拟机械手:模型内部长出独立「压力」编码通道 — repligate · 2026-11-16
- Google 开源 PaperOrchestra:多 Agent 自动写 AI 研究论文 — google-research · 2026-11-16