类比福岛核事故论AI风险:数千人死亡可信,灭绝遥不可及
sethlazar · x · 2026-09-06
哲学家 Seth Lazar 在讨论失控 AI 的风险量级时,以福岛核事故作类比:福岛引发国际震动并改变了核电行业的运营与监管方式,但严重程度仍比人类灭绝低 7 到 10 个数量级。
他认同灭绝「遥不可及」、价值永久丧失也极不可能,但质疑中间地带的边界:如果允许这类机制存在,凭什么认为失控 AI 只能杀死数千人而不会是数百万人?只能造成一起可怕的工业事故,而不是成百上千起?他强调需要一个说明上限从何而来的论证。
所属事件:Lee 与 Lazar 激辩失控 AI：可管理威胁还是社会级灾难(20 条相关)→
「漫话AGI」频道最新
- 前端开发独扛两套后端：公司裁掉资深后端改用 Claude Code — ParticularFan1122 · 2026-10-23
- Grady Booch 引 Weinberg 名言讽软件质量：第一只啄木鸟就能摧毁文明 — Grady_Booch · 2026-10-23
- 分析师：UGC 平台易专业化，专业平台学 UGC 只会更像垃圾 — ZeroStateReflex · 2026-10-23
- AI 降低了写码门槛,独立开发者却更难了:竞争转向需求与流量 — sven_ai · 2026-10-23
- 单细胞动力学模型 DynaVelo 发表于 Nature Biotechnology — anshulkundaje · 2026-10-23
- e/acc 领袖 Beff Jezos:前沿实验室加速开源才能守住网络安全 — beffjezos · 2026-10-23