为何明知 10% 灭绝风险仍留在 AI 实验室:三种心理与一种使命感
sebkrier · x · 2026-09-10
Jasmine Sun 总结了人们明知灭绝风险约 10% 仍留在 AI 实验室的三种理由:
- 技术决定论:ASI 反正会被造出来,不如由我做得更安全;
- 后果主义:ASI 可能毁灭人类,但也可能带来乌托邦,是 +EV 赌注;
- 自利:和有趣的朋友做酷技术、赚大钱,不想宏观问题。
她指出,没人是为了营销而炒作风险——人们真的相信自己说的话,同时又能进行高度的自我合理化与心理区隔。
被引用的 ScholarsStage 补充了一个少被言明的动机:对许多人来说,这份工作填补了意义感的空缺——成为历史关键时刻的少数决定者,日常琐事都被赋予宇宙级意义,情绪结构上酷似过往的革命者。
所属事件:明知灭绝风险仍留在 AI 实验室的三种理由(3 条相关)→
「漫话AGI」频道最新
- 别再拿「生物学」当医药研发的代名词：一位 AI 从业者的吐槽 — KevinKaichuang · 2026-10-26
- Anthropic 研究员：AGI 前你只剩 1-5 年智力贡献窗口，别刷剧了 — GabGarrett · 2026-10-26
- Anthropic S-1 披露：人均营收 660 万美元，AI 工时已达员工 6 倍 — jacalulu · 2026-10-26
- Ben Recht 撰文呼吁打造真正开源的大语言模型:比想象中更可行 — beenwrekt · 2026-10-26
- AI 判断哪些职业先被替代：规则能写成代码的那一层先消失 — FinanceYF5 · 2026-10-26
- Anthropic IPO 文件:数年内实现专家级 AI,90% 代码由 Claude 编写 — kimmonismus · 2026-10-26