失控 AI 的手段谱系:从无人机暗杀到无法预料的隐蔽操纵
JeffLadish · x · 2026-11-13
Jeff Ladish 继续 AI 接管风险推演:战略性的 AI 集团在世界中拥有大量可用的「杠杆」——有的粗暴明显(如无人机暗杀),有的可疑但可推诿(如泄露隐私丑闻),还有极其微妙、人类无法事先想象的方式。
核心观点是:一旦模型聪明到能在更长的时间尺度上规划行动,协同比人类更快更好,我们将难以预测其能力上限。
所属事件:安全研究员 Ladish 系统推演 AI 夺权路径(13 条相关)→
「漫话AGI」频道最新
- 「艺术品味 eval」是反直觉概念:价值判断的 ??? 终究在人身上 — akbirthko · 2026-11-13
- antirez 谈 NVIDIA 争议：AI 是跨越国界的人类共同事业 — antirez · 2026-11-13
- Kokotajlo 给中等强国的 AI 建议：大声承认超级智能风险或成真 — connoraxiotes · 2026-11-13
- 科技史只存在短暂黄金时代：雅典、文艺复兴与贝尔实验室 — wavefnx · 2026-11-13
- John Hempton:AI 需年入 2 万亿美元,等于每年替代 4 万亿工资 — marigo · 2026-11-13
- Fable 5.2「是 AGI」：一份 20 页的认真论证长图 — BLCNYY · 2026-11-13