David Duvenaud 谈训练期 RL 受限:无梯度调优仍远慢于原生 RL

DavidDuvenaud · x · 2026-10-31

围绕测试时计算扩展能否带来同等模型更强能力的讨论,David Duvenaud 指出:即便训练计划不允许对被训模型做 RL rollout,仍可用某种无梯度方式对上下文和脚手架做「穷人版 RL」调优,但他承认这种方式速度要慢得多。讨论涉及 wfithian 提到的「训练中的模型不能跑 RL rollout」这一限制。

所属事件:学者激辩:推理算力能否替代训练算力促 AI 进步(4 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →