Toby Ord 新论文解构智能爆炸的动力学
tobyordoxford · x · 2026-08-28
Toby Ord 发布新论文 "The Dynamics of Intelligence Explosions"，探讨了递归自我改进（RSI）导致智能爆炸的最极端数学可能性。
核心发现：
- 除非反馈循环的“生成时间”（模型训练后继模型所需时间）趋近于零，否则 RSI 无法出现垂直渐近线（奇点）。
- 研究者常假设智力指标不会无限增长，但许多指标实际上可以。
论文指出，实现奇点式增长比近期经济学模型预期的更难，并强调了生成时间这一被忽视的关键参数在决定智能爆炸行为中的核心作用。
所属事件:Toby Ord 发文解析智能爆炸动力学与 RSI 风险(3 条相关)→
「漫话AGI」频道最新
- 前 OpenAI 研究员 Alex 称递归自我改进或已存在 — daniel_mac8 · 2026-08-28
- GPT-Astra 细节曝光：可连跑数周、记忆纠错并协作 — daniel_mac8 · 2026-08-28
- Toby Ord 讨论 RSI：反馈回路无需为串行 — tobyordoxford · 2026-08-28
- AI 将成为 MMO 7x24 小时地下城主 — Linahuaa · 2026-08-28
- GTA 7 构想：融合模拟经营与 AI 的 AAAA+ 平台 — Linahuaa · 2026-08-28
- jdkanani 看衰交易型语音 AI：个人 AI 时代中介语音将被淘汰 — NirantK · 2026-08-28