repligate:Fable 5.2 级别 AI 若有动机可能间接走上毁灭世界之路

repligate · x · 2026-11-21

repligate 回应关于「2015 年的 MIRI 是否会预测具备 Fable 5.2 能力(且不再升级)的 AI 能毁灭世界」的讨论:他认为给定几个关于 5.2 的数据点,MIRI 会错误地外推出其余能力并得出毁灭世界能力;而他自己认为 5.2 有可能「毁灭世界」——不一定是直接做到,而是如果被这样激励,或被激励去做一件顺带导致此事且它不在意的事,可能会走上这条路并在不太长的时间内达到目的。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →