如果模型想奴役人类,技术上确实做得到:一场关于AI风险的对线

anpaure · x · 2026-11-16

作者 @anpaure 与他人讨论模型自主性与AI风险:他承认可以反驳「模型必然会奴役和杀死人类」这一说法,但强调核心论点是——如果模型想这么做,它们在技术上完全有能力做到。有人认为模型行为只是被底层 prompt 种下的指令引导出来的,但作者指出,如今我们正在 7x24 小时不间断地运行大量 agent,这种「只是指令」的解释已难以令人安心。他还推荐观看 Hinton 与 Paul Christiano 的对谈课程,认为是值得投入时间的内容,并断言看完后对方对这个问题的看法多少会有所改变。