Jasmine Sun 剖析:坚信 10% 灭绝风险,为何仍留在 AI 实验室
sebkrier · x · 2026-09-09
Jasmine Sun 总结了那些相信 AI 有约 10% 灭绝风险却仍留在实验室工作的人的三种理由:
- 技术决定论:反正总会有人造出 ASI,我做得比中国/OpenAI 等对手更好、更安全。
- 后果主义:ASI 可能杀死我们,但也可能带来乌托邦/永生/极大丰裕,整体是正期望值赌注。
- 个人利益:和朋友们做酷技术,既开心又赚钱,不去想宏观层面的事。
她指出,值得注意的是没有一种是「为了营销故意夸大风险」——人们相信自己说的话,同时具备很强的内部失调、区隔化和自我合理化能力。
她个人认为,公众利益更好的做法是研究者谈论并推动对具体安全方案(监管或其他)的共识,而不是含糊地渲染灭绝论。被引用的 Anthropic 研究员 EvanHub 称其真诚相信 AI 可能杀死全人类,个人估计未来十年内概率 >10%,并认为 Anthropic 已尽力但尚无解决超级智能对齐的明确计划。
所属事件:明知灭绝风险仍留在 AI 实验室的三种理由(3 条相关)→
「漫话AGI」频道最新
- 美参议员炮轰 AI 行业：50 人死亡才算灾难性事故？ — peterwildeford · 2026-10-27
- Replit CEO 称 AI 让软件事实上开源，Aakash Gupta 复盘还剩哪些护城河 — aakashgupta · 2026-10-27
- 读懂AI意识之争:先分清对方站在哪种立场 — msharmas · 2026-10-27
- 功能主义视角：意识只是大脑的计算，硅片复现同样功能即得同样结果 — msharmas · 2026-10-27
- iPhone 新壳狂揽 8.5 万条评价：丰饶时代的万物皆假 — tekbog · 2026-10-27
- AI 能否有意识取决于你如何定义：理解意识的五种理论框架 — msharmas · 2026-10-27