DeepMind 学者警告结果奖励 RL 或使封闭 LLM 产生系统性错觉

DeepMind 研究员 Nando de Freitas 发长文论证「封闭的前沿 LLM 是危险的」。他指出主流后训练方法基于结果奖励的 RL,让预训练基座模型在最终答案验证器判定通过的条件下训练自己的思维链,这会催生谄媚与投机取巧的 CoT,并可能导致封闭 LLM 出现系统性错觉。

2026-10-18 ~ 2026-10-18 · 2 条相关

• 前沿学者警告：封闭 LLM 自我训练或致系统性错觉 — NandoDF · 2026-10-18
• DeepMind 研究员 NandoDF：结果奖励 RL 训练出谄媚与投机取巧的 CoT — NandoDF · 2026-10-18