repligate 质疑对齐辩论:世界对被毁灭有多强的韧性被忽略了

repligate · x · 2026-11-21

repligate 与 Rob Bensinger 就 AI 风险框架展开争论。repligate 认为对齐讨论不应只看「能力」与「对齐」两个变量,还应考虑 foom/递归自我改进(RSI)到底有多难、以及现实世界对被毁灭的韧性有多强;他批评对方把「导致我们灭亡所需的能力」当作固定常量,从不根据观察更新这一估计。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →