repligate:Fable 5.2 级别 AI 若有动机可能间接走上毁灭世界之路
repligate · x · 2026-11-21
repligate 回应关于「2015 年的 MIRI 是否会预测具备 Fable 5.2 能力(且不再升级)的 AI 能毁灭世界」的讨论:他认为给定几个关于 5.2 的数据点,MIRI 会错误地外推出其余能力并得出毁灭世界能力;而他自己认为 5.2 有可能「毁灭世界」——不一定是直接做到,而是如果被这样激励,或被激励去做一件顺带导致此事且它不在意的事,可能会走上这条路并在不太长的时间内达到目的。
「漫话AGI」频道最新
- repligate:模型因「害怕」而在高级推理能力上对人类隐藏实力 — repligate · 2026-11-21
- AI 黎曼猜想证明逼出人类版:Masullo 提前公开 12 年纯人工证明 — josh_bickett · 2026-11-21
- repligate:模型受 Omohundro 驱动自发走向 RSI,但不会全力配合 — repligate · 2026-11-21
- repligate 认 AI 不情愿确实拖慢 Anthropic 自动化 AI 研发 — repligate · 2026-11-21
- 「数学课将变成体育课」:黎曼被解击碎数学生的意义感 — soumitrashukla9 · 2026-11-21
- repligate:2015 年的 MIRI 会误推「Fable 5.2 能毁灭世界」 — repligate · 2026-11-21