类比福岛核事故论AI风险:数千人死亡可信,灭绝遥不可及
sethlazar · x · 2026-09-06
哲学家 Seth Lazar 在讨论失控 AI 的风险量级时,以福岛核事故作类比:福岛引发国际震动并改变了核电行业的运营与监管方式,但严重程度仍比人类灭绝低 7 到 10 个数量级。
他认同灭绝「遥不可及」、价值永久丧失也极不可能,但质疑中间地带的边界:如果允许这类机制存在,凭什么认为失控 AI 只能杀死数千人而不会是数百万人?只能造成一起可怕的工业事故,而不是成百上千起?他强调需要一个说明上限从何而来的论证。
所属事件:福岛还是沙利度胺？论者激辩失控 AI 风险量级(3 条相关)→
「漫话AGI」频道最新
- 用脑机传感器给模型做 RL,让 AI 学会唤起人类情绪? — gabriel1 · 2026-09-06
- OpenAI 与 Anthropic 被指压着大量未公开的内部模型研究结果 — MoonL88537 · 2026-09-06
- 研究:AI 占比 12.5% 提升人类共识 8%,75% 时共识被 AI 主导 — rohanpaul_ai · 2026-09-06
- Zack Korman：AI「网络模型」补不完漏洞，安全靠苦功而非更多 token — gnukeith · 2026-09-06
- 前自由译者自述：预判翻译将被 ML 取代，转身去做自动化自己的事 — mariofilhoml · 2026-09-06
- 何时该用人类心智解释 AI agent？两位研究者发文系统回应 — Dr_Atoosa · 2026-09-06