Bensinger 质疑:人类毁灭难度是固定参数吗?对齐辩论升级

robbensinger · x · 2026-11-21

Rob Bensinger 继续与 repligate 的对齐争论,反驳对方指责他「把人类毁灭所需能力固定死、从不根据观察更新」:他强调自己的论述完全兼容「杀掉人类可能比想象中更难」的情形,比如病原体治愈或许可被快速量产分发。他追问:黎曼猜想与这类观察有何关系——我们实际做出了那样的观察吗?并再次发问:2015 年的 MIRI 是否会预测一个仅有 Fable 5.2 能力、不再升级的 AI 能毁灭世界?

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →