AI 集群实证测算智能爆炸关键参数 λ≈0.5-0.6,尚低于爆炸阈值
tobyordoxford · x · 2026-09-22
tobyordoxford 指出,在智能爆炸模型中,当 r = λ/β > 1 时会发生失控爆炸,λ 越大智能爆炸越容易发生。AI Futures 模型对递归自我改进(RSI)假设 λ = 0.5,Davidson & Houlden 取 0.6。
他认为,来自 agent 集群(swarm)的实证估算表明这两个假设大体靠谱。λ 通常基于人类群体的研究来估计,而用 AI 集群来实测这一参数,对研究递归自我改进非常关键。
所属事件:牛津学者量化 Swarm Scaling：集群扩容性价比远逊拉长思维链(20 条相关)→
「漫话AGI」频道最新
- Toby Ord：部署前强制测试意义有限，内部模型才是最大风险源 — ben_j_todd · 2026-11-12
- 「AI 灭绝人类？大概率没事」：乐观派文章引热议 — NathanpmYoung · 2026-11-12
- 斯坦福研究：AI 五年内或减少放射科医生 33% 工时 — StanfordAILab · 2026-11-12
- 商业策略之争:把 AI 藏在人后面,而非把人藏在 AI 后面 — annetgriffin · 2026-11-12
- Yampolskiy 对阵 Israetel：租下教堂辩论 AI 末日概率 — rand_longevity · 2026-11-12
- Reddit 网友放话：OpenAI 撑不过三四年，将被收购出局 — Dadideology · 2026-11-12