质疑声起:LLM 远离分布任务仍弱,递归自改进从何谈起
mariofilhoml · x · 2026-11-15
作者提出一个尖锐质疑：如果 LLM 在远离训练分布（far out-of-distribution）的任务上表现很差，那么所谓「递归自我改进」（RSI）实际上是如何开始的？这一反问直指当前 AI 加速自我改进叙事的核心矛盾——自我改进本质上需要模型在自身能力边界之外有效工作。
「漫话AGI」频道最新
- AI 安全组织发起请愿，呼吁全球禁止超级智能与递归自我改进 — marcvanderchijs · 2026-11-15
- 研究者提反直觉主张:加强预训练比堆 RL 更有利于 AI 安全 — maksym_andr · 2026-11-15
- Anthropic 辞职爆红研究员 Jacob Coxon：不排除重返 AI 实验室 — rohanpaul_ai · 2026-11-15
- DeepMind 研究员：AGI 更可能是去中心化技术而非单一巨头 — sebkrier · 2026-11-15
- 前 Anthropic 研究员：AI 一年内将逼近递归自我改进 — rohanpaul_ai · 2026-11-15
- 预测：超级智能消灭利润与富豪，2035 年 UHI 价值等于百倍年薪 — davidpattersonx · 2026-11-15