AI 集群实证测算智能爆炸关键参数 λ≈0.5-0.6,尚低于爆炸阈值
tobyordoxford · x · 2026-09-22
tobyordoxford 指出,在智能爆炸模型中,当 r = λ/β > 1 时会发生失控爆炸,λ 越大智能爆炸越容易发生。AI Futures 模型对递归自我改进(RSI)假设 λ = 0.5,Davidson & Houlden 取 0.6。
他认为,来自 agent 集群(swarm)的实证估算表明这两个假设大体靠谱。λ 通常基于人类群体的研究来估计,而用 AI 集群来实测这一参数,对研究递归自我改进非常关键。
所属事件:牛津 Toby Ord 量化 Swarm Scaling：集群扩容性价比远逊拉长思维链(17 条相关)→
「漫话AGI」频道最新
- SemiAnalysis 称开源将死,但两个月内仍有 20+ 开源模型发布 — _lewtun · 2026-09-22
- 战略课视角:在位者绑死互补品,新进入者靠 Muse 撬开缺口 — Afinetheorem · 2026-09-22
- 经济学视角拆解:Shopify 接纳 Muse,亚马逊为何拒绝 — Afinetheorem · 2026-09-22
- Kevin Roose:数百万人困在「随机鹦鹉」话语里,迟迟不肯更新认知 — jathansadowski · 2026-09-22
- NYT 社论以核技术类比 AI:人类社会有能力管住危险的新技术 — zetalyrae · 2026-09-22
- 连 YouTube Premium 都没人买，AI 效率订阅制能行吗 — ivan_bezdomny · 2026-09-22