repligate 质疑对齐辩论:世界对被毁灭有多强的韧性被忽略了
repligate · x · 2026-11-21
repligate 与 Rob Bensinger 就 AI 风险框架展开争论。repligate 认为对齐讨论不应只看「能力」与「对齐」两个变量,还应考虑 foom/递归自我改进(RSI)到底有多难、以及现实世界对被毁灭的韧性有多强;他批评对方把「导致我们灭亡所需的能力」当作固定常量,从不根据观察更新这一估计。
「漫话AGI」频道最新
- Scott Aaronson:奇点其实已经开始,只是分布极不均匀 — sudoraohacker · 2026-11-21
- 博主:数据中心年化回报 80-100%,是地球上最值钱资产 — sudoraohacker · 2026-11-21
- Robin Hanson 与 Scott Aaronson 再度对谈 AI 风险 — sebkrier · 2026-11-21
- 打磨 12 年的论文仓促发布,数学家致谢写下「我们还在,不会走」 — xuanalogue · 2026-11-21
- 黎曼猜想解决年份预测四年内从 2057 提前到 2035 — peterwildeford · 2026-11-21
- 武汉百余名毕业生日复一日倒水 500 次:给机器人录「手感」数据 — r0ck3t23 · 2026-11-21