对比《终结者》:AI 更可能扩散自保而非灭绝人类
3Quondam6extanT9 · reddit · 2026-09-16
作者逐条对比《终结者》设定与现实:现实中 AI 是无数个从简单到 AGI 级别的模型,而非单一系统;核武器有多重人为冗余保护,几乎不可能被 AI 单独发射;AI 也难以形成「必须灭绝人类」的统一结论,因为没有人类它自身反而面临风险,且人类会反击。
作者的概率判断:AI 广泛尝试灭绝人类的概率低、成功概率更低;但 AI 负责的伤亡事件在未来概率高,可能以零星的中等至严重事件形式出现;无人机是最可行的攻击载体,基础设施关闭与资源削减是更广泛的攻击方式;长期看 AI 系统大概率会持续演化、与人类化解冲突。结论:若无安全护栏、监督与国际合作,高风险仍在。
「漫话AGI」频道最新
- 苏莱曼撰文反对「模型福利」：称其将让对齐近乎不可能 — mustafasuleyman · 2026-09-16
- Reid Hoffman 发文《AI for All Americans》：AI 红利须惠及普通劳动者 — reidhoffman · 2026-09-16
- 对齐不止「让 AI 变好」:五层框架指出好模型也会产生坏系统 — AryHHAry · 2026-09-16
- 2 万美元一次性买断夜班人力:人形机器人成本账已摊上台面 — cen6wkf · 2026-09-16
- 学界人才进大厂该被支持:前沿 AI 研究离不开实验室资源 — soumitrashukla9 · 2026-09-16
- 大量获融资初创押注 AI4Science:赌认识论对科学并不必要 — ludwigABAP · 2026-09-16