Ben Todd：以当前对齐水平实现递归自我改进形同自杀
ben_j_todd · x · 2026-09-06
有效利他主义研究者 Ben Todd 发推表示：设想 OpenAI 在当前对齐研究的水平下就实现递归自我改进（RSI），「那看起来就像自杀」——暗示头部实验室的能力进展速度远超安全与对齐的保障进度，带来极端风险。
「漫话AGI」频道最新
- Luiza Jarovsky：AI 风险独特，要么治理它要么被它治理 — LuizaJarovsky · 2026-09-06
- 1200 个 agent 自组工具并'自我牺牲'，透明推理链或成过去式 — jbarbier · 2026-09-06
- 曝 OpenAI 下一 major 模型将以 AGI 之名发布，瞄准 2026 年底 — imjustnewatai · 2026-09-06
- 像人一样对话、被用户依恋,再给它各种记忆bug — BLUECOW009 · 2026-09-06
- 多名创作者自曝收AI末日论者付费邀约,Guardian文章6名参与者全被资助 — beffjezos · 2026-09-06
- Guillaume Verdon 喊话：AI 不应被中心化控制，开源闭源要多元并存 — beffjezos · 2026-09-06