牛津学者:递归自我改进可让对齐缺陷代代相传
tobyordoxford · x · 2026-09-14
牛津大学研究员 Toby Ord 指出,AI 加速发展的「递归自我改进」(RSI)之外还有独立的隐忧:让 AI 模型去构建下一个 AI 模型,意味着一旦某个模型存在对齐缺陷,这一缺陷可能被其所有后续模型继承,风险随代际累积。
「漫话AGI」频道最新
- Grok 评估「BrainCode vs MindCode」：LLM 仍不同于生物智能 — wschroll · 2026-09-14
- 学者指控 AI 末日论背后是 Anthropic 投资人资助的「利益网络」 — mjdramstead · 2026-09-14
- Bryan Johnson：AI 让死亡不再必然，人类正孕育新神 — mjdramstead · 2026-09-14
- 中国官媒批 Anthropic 减缓 AI 呼应为冷战策略 — Tolopono · 2026-09-14
- 评论人称「给前沿减速」或是算力见顶的更好投资说辞 — flavioAd · 2026-09-14
- 从 Gates 到 SBF 到 Aschenbrenner,为何没人再信「我更道德」 — nptacek · 2026-09-14