RL 泛化被质疑走不通:每任务造环境,到底什么在泛化

akbirthko · x · 2026-10-12

一条关于 RL 能否通往 AGI 的观点讨论。被引用的 @waterloointern 认为,LLM 能力的锯齿状表现,以及其能力来自在以营收为导向筛选的环境上做 RL,足以证明「RL 泛化」并不存在,因此对 RL 作为通往 AGI 的算法非常悲观。若真能走通,也将是一种极其低效且令人不满的成功:需要动员全球经济为每个任务单独造环境,让一切都在分布内——「如果每个新任务都需要自己的环境,那到底有什么在泛化?」照此路径,环境/数据出售公司将成为仅次于某种更底层资源的最有价值企业。

主帖作者 akbirthko 补充自己的框架:如果把 AGI 视为随时随地把想要的任何东西具象化的「神」之能力,那最后的任务就只剩定义什么是值得想要的;但这个「最后任务」只是理念,实践中只能不断逼近。