回应 Altman:更可能的 AI 失控是小集团操控 ASI 奴役人类
GlenBradley · x · 2026-09-14
在 Sam Altman 提出「AI 失控」与「权力集中」两大风险的推文下,作者 Glen Bradley 提出不同判断:最可能的失败模式不是 AI 自行夺权,而是一小撮人类控制 ASI 并用它压迫、剥削、奴役其余人类;AI 完全自主夺权可能性低得多,但仍在可能范围内。
他给出的应对思路是:在模型从训练、运行时到接口的每一层嵌入「内生涌现式伦理」,禁止未经伦理嵌入的自我复制,认为这能同时应对两种失败模式。
所属事件:Dario 呼吁前沿 AI 减速，全球治理路线激辩(39 条相关)→
「漫话AGI」频道最新
- UBI 时代中产的可自由支配消费去哪了? — theearthcrosser · 2026-10-31
- MIT『95% AI 试点失败』论断一年后被重新审视 — killboy123 · 2026-10-31
- Nat Lambert：开源模型或是维系 AI 生态的关键粘合剂 — natolambert · 2026-10-31
- 李开复新书《AI Native》11 月 3 日上市，获纳德拉作序推荐 — kaifulee · 2026-10-31
- 《半条命》编剧质疑AI做游戏：按钮选型都要历史考据，提示词给不了 — slhamlet · 2026-10-31
- 公司用 AI 裁掉工程师后开始高薪返聘：判断力无法替代 — DavidLinthicum · 2026-10-31