Toby Ord 论文指递归自我改进受物理限制
Exponential View (Azeem Azhar) · rss · 2026-08-30
Toby Ord 的新论文探讨了递归自我改进(RSI)的可能性及其限制。Ord 认为,尽管数学上存在无限智力提升的可能性,但在现实中很难实现,关键限制因素是“代际时间”,即 AI 完成一次改进循环(设计并训练下一代)所需的时间。由于实验、训练、芯片制造等现实因素,代际时间无法归零,且光速、Bekenstein 界限和 Landauer 原理等物理定律最终也会限制计算速度和信息密度,因此无限制的 RSI 不太可能发生。
「漫话AGI」频道最新
- Lean 化数学会不会毁掉数学之美?圈内人激辩数学文化走向 — akbirthko · 2026-10-16
- CSO 分析:agent 并未失控,是前沿实验室漏掉了安全基本功 — Sam_Witteveen · 2026-10-16
- 新工作论文:20世纪农业自动化如何重塑下一代人力资本 — carlbfrey · 2026-10-16
- 扎克伯格开办电工培训学校,美国在建数据中心已超办公楼 — emmanuelvivier · 2026-10-16
- Mike Frank:AI 脱离人类独立生存仍需数十年,现实世界抵抗剧变 — MikePFrank · 2026-10-16
- 开发者晒「非 LLM 控制核」系统,自称出现涌现式自我反思 — HungarySam · 2026-10-16