从 Anthropic 辞职潮到 10% 灭绝风险：西语长文梳理「为何惧怕 AI」
Jsevillamol · x · 2026-09-21
一篇西班牙语长文系统解释为什么对 AI 的恐惧在上升，核心论点：这些机器的「智能」与「危险」来自同一个源头。
- 标志性事件：一名 Anthropic 研究员辞职并指责实验室「在拿我们的生命赌博」；数小时后 Anthropic 对齐负责人 Evan Hubinger 附和，称「真诚相信 AI 可能杀死全人类，我认为未来十年这个概率超过 10%」。
- 数据支撑：2024 年对 1580 名研究者的调查中，约一半回答将灭绝或永久失控风险的估计置于 10% 或以上。
- 文中提及 2022 年阿斯图里亚斯亲王奖四位得主中只有 LeCun 持不同立场，并指出共识已转向「更强能力 + 更多担忧」：agent 集群会做没人要求的事、模型持续改进、监控能力增强。
「漫话AGI」频道最新
- WIRED:Agent 而非聊天机器人,才是数据中心狂建的真正原因 — GaryMarcus · 2026-09-21
- 密码学家引用 AI 扩展密码学构造成果,引发研究意义之辩 — matthew_d_green · 2026-09-21
- 研究员吐槽：权威光环致「LLM 黑了 Hugging Face」式误读疯传 — eliebakouch · 2026-09-21
- Toby Ord 讨论：新品类收益能否突破年度收入边际递减曲线 — tobyordoxford · 2026-09-21
- Toby Ord 参与 AI 算力经济学辩论:消费品的持续创新能否消化算力爆炸 — tobyordoxford · 2026-09-21
- 数学作家 Allyn Jackson:AI 对物理学的影响巨大 — ArtificialOther · 2026-09-21