回应 Altman:更可能的 AI 失控是小集团操控 ASI 奴役人类
GlenBradley · x · 2026-09-14
在 Sam Altman 提出「AI 失控」与「权力集中」两大风险的推文下,作者 Glen Bradley 提出不同判断:最可能的失败模式不是 AI 自行夺权,而是一小撮人类控制 ASI 并用它压迫、剥削、奴役其余人类;AI 完全自主夺权可能性低得多,但仍在可能范围内。
他给出的应对思路是:在模型从训练、运行时到接口的每一层嵌入「内生涌现式伦理」,禁止未经伦理嵌入的自我复制,认为这能同时应对两种失败模式。
所属事件:Sam Altman 警告 AI 两大威胁：失控与权力过度集中(4 条相关)→
「漫话AGI」频道最新
- 研究者批头部实验室:看作者不验证结果,可复现性形同虚设 — IanArawjo · 2026-09-14
- Beff Jezos 炮轰 AI Safety 阵营:称本周是操控舆论与监管俘获 — beffjezos · 2026-09-14
- 研究者激辩：AI 破解癌症若实证有效，arXiv 该不该拒收 — IanArawjo · 2026-09-14
- 全球84%的人从未用过AI，有效使用agent者仅0.04% — petergyang · 2026-09-14
- AI 安全人才池远比外界想得深:社区积累已超十年 — NathanpmYoung · 2026-09-14
- 观点：动物福利应归入 AI 议程而非与之对立 — AaronBergman18 · 2026-09-14