repligate:2015 年的 MIRI 会误推「Fable 5.2 能毁灭世界」

repligate · x · 2026-11-21

repligate 回应 Rob Bensinger 关于黎曼猜想被解与对齐争论的讨论。被问「2015 年的 MIRI 是否会预测一个仅有 Fable 5.2 能力、不再升级的 AI 能毁灭世界」时,他认为 MIRI 若拿到 5.2 的几个数据点,会错误外推出其余能力乃至毁世能力——即旧派对能力的推断过于悲观。他强调自己的立场与「杀掉人类可能比想象中更难」并不矛盾,比如也许病原体治愈可以被快速量产分发。

所属事件:AI 圈激辩 MIRI 旧预测失败是否动摇风险论(8 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →