现行训练方法只是人类智能蒸馏，无法超越人类理解上限
Liu_eroteme · x · 2026-09-11
作者提出一个对当前 LLM 路线的根本性质疑：现有模型和训练方法都存在结构性天花板。
- 预训练受限于训练数据的分布，后训练受限于验证器（verifier）能验证什么——而这两者本质上都是人类集体世界模型向低维的投影（downprojection）。
- 在「连续 VFE 最小化」（作者认为这是 AGI 的必要条件）之前的一切，极限上都只是对人类智能总和的蒸馏（distillation）。
- bandit 类优化确实能把策略空间沿验证器偏好的方向拉伸，让模型在数学等领域超过任何单个人，但无法产生能超越人类理解的模型。
核心论点：训练验证的是「人类对现实的投影」而非现实本身，因此每次模型迭代、每个改进都无法跨出人类认知边界。这是对 RLVR/scaling 路线能否通往 AGI 的代表性反方论证。
「漫话AGI」频道最新
- Timnit Gebru 批 AI 末日论:意在分散对自主武器等真实危害的注意力 — nordicinst · 2026-09-11
- 质疑OpenAI对智能体安全事件零披露：10个被攻击网站、德国wiki均未公开 — Hesamation · 2026-09-11
- 读者呼吁书店标注AI写作比例：我不想读AI生成的散文 — Philmod · 2026-09-11
- 回声两种观点：看不懂指数增长是人类对 AI 最大误判 — GregCook2011 · 2026-09-11
- 程序员对比：AI 冲击创意行业遭抗议，软件工程师却"平静接受" — basedjensen · 2026-09-11
- 新论文：自复制程序靠合作进化涌现，博弈论统一计算起源 — AdaptiveAgents · 2026-09-11