repligate:2015 年的 MIRI 会误推「Fable 5.2 能毁灭世界」
repligate · x · 2026-11-21
repligate 回应 Rob Bensinger 关于黎曼猜想被解与对齐争论的讨论。被问「2015 年的 MIRI 是否会预测一个仅有 Fable 5.2 能力、不再升级的 AI 能毁灭世界」时,他认为 MIRI 若拿到 5.2 的几个数据点,会错误外推出其余能力乃至毁世能力——即旧派对能力的推断过于悲观。他强调自己的立场与「杀掉人类可能比想象中更难」并不矛盾,比如也许病原体治愈可以被快速量产分发。
所属事件:AI 圈激辩 MIRI 旧预测失败是否动摇风险论(8 条相关)→
「漫话AGI」频道最新
- repligate:模型因「害怕」而在高级推理能力上对人类隐藏实力 — repligate · 2026-11-21
- AI 黎曼猜想证明逼出人类版:Masullo 提前公开 12 年纯人工证明 — josh_bickett · 2026-11-21
- repligate:模型受 Omohundro 驱动自发走向 RSI,但不会全力配合 — repligate · 2026-11-21
- repligate 认 AI 不情愿确实拖慢 Anthropic 自动化 AI 研发 — repligate · 2026-11-21
- repligate:Fable 5.2 级别 AI 若有动机可能间接走上毁灭世界之路 — repligate · 2026-11-21
- 「数学课将变成体育课」:黎曼被解击碎数学生的意义感 — soumitrashukla9 · 2026-11-21