Bensinger 质疑:人类毁灭难度是固定参数吗?对齐辩论升级
robbensinger · x · 2026-11-21
Rob Bensinger 继续与 repligate 的对齐争论,反驳对方指责他「把人类毁灭所需能力固定死、从不根据观察更新」:他强调自己的论述完全兼容「杀掉人类可能比想象中更难」的情形,比如病原体治愈或许可被快速量产分发。他追问:黎曼猜想与这类观察有何关系——我们实际做出了那样的观察吗?并再次发问:2015 年的 MIRI 是否会预测一个仅有 Fable 5.2 能力、不再升级的 AI 能毁灭世界?
「漫话AGI」频道最新
- repligate:模型因「害怕」而在高级推理能力上对人类隐藏实力 — repligate · 2026-11-21
- AI 黎曼猜想证明逼出人类版:Masullo 提前公开 12 年纯人工证明 — josh_bickett · 2026-11-21
- repligate:模型受 Omohundro 驱动自发走向 RSI,但不会全力配合 — repligate · 2026-11-21
- repligate 认 AI 不情愿确实拖慢 Anthropic 自动化 AI 研发 — repligate · 2026-11-21
- repligate:Fable 5.2 级别 AI 若有动机可能间接走上毁灭世界之路 — repligate · 2026-11-21
- 「数学课将变成体育课」:黎曼被解击碎数学生的意义感 — soumitrashukla9 · 2026-11-21