研究者称已部署的错位 AI 也难以夺权: takeover 实际不可行
JacquesThibs · x · 2026-09-25
在关于「已部署的错位 AI 是否构成威胁」的讨论中,作者承认广泛部署的错位 AI 值得担忧,「训练一个错位的后继模型」是可能路径之一,但他认为迄今没有人给出这类场景的详细威胁模型。
他本人的预期是:即使已部署的 AI 带有错位目标,takeover(夺权)在现实中不可行。他计划后续从技术对齐角度推演这类场景,并表示自己认为 AI 2027 报告在这一环节刻意含糊带过,缺乏说服力。
所属事件:失准 AI 夺权可行性之争：内部还是外部部署更危险(5 条相关)→
「漫话AGI」频道最新
- Nina Schick：最大风险不是超级智能，而是我们没能建设 — NinaDSchick · 2026-11-12
- keerthanpg:机器人学家仍不接受苦涩教训,CoRL 现场五阶段哀伤 — keerthanpg · 2026-11-12
- AI 2027 作者回应质疑：预测已注明以无减速为前提条件 — eli_lifland · 2026-11-12
- 数学家为何恐慌:AI 正让「声誉点数」通胀贬值 — virtuolie · 2026-11-12
- 投资人直言：消费软件的 AI 扩散将是最慢的 — MartinGTobias · 2026-11-12
- AI 争论:模型在关键短板上进步慢,是因为你根本注意不到它在进步 — dfrsrchtwts · 2026-11-12