RL 后的 LLM 搜索空间趋于无穷,随机鹦鹉论已过时
menhguin · x · 2026-09-20
Jack Clark 称「随机鹦鹉」是 2021-2025 年间传播的模因式认知病毒,让许多聪明人误判 AI 进展。@menhguin 回应认为:严格说预训练 LLM 或许是随机鹦鹉,但经过 RL 训练、面对无限可能的输入查询与检索上下文后,模型搜索空间在功能上趋于无穷,输入本身超出分布,导致输出也是 OOD 的新轨迹。
所属事件:Jack Clark 批「随机鹦鹉」为认知病毒引发论战(8 条相关)→
「漫话AGI」频道最新
- 斯坦福 AI 名家 Yejin Choi 将出席韩国协会伦理与价值系列演讲 — stanfordnlp · 2026-09-20
- 激辩前沿 AI 暂停令：是防范风险还是监管俘获？ — GarrisonLovely · 2026-09-20
- 经济学家 Josh Gans 写AI冷笑话：被灭绝的不是人类是新喀鸦 — joshgans · 2026-09-20
- AI 圈激辩：禁掉 ASI 也挡不住有人在暗处造出来 — AIandDesign · 2026-09-20
- Charton 再评陶哲轩争议:圈子里比他更糟的「变节者」多得多 — f_charton · 2026-09-20
- 微软 AI 公开征求行为准则，与行业「踩刹车」呼吁同周撞车 — BenBajarin · 2026-09-20