为何明知 10% 灭绝风险仍留在 AI 实验室:三种心理与一种使命感
sebkrier · x · 2026-09-10
Jasmine Sun 总结了人们明知灭绝风险约 10% 仍留在 AI 实验室的三种理由:
- 技术决定论:ASI 反正会被造出来,不如由我做得更安全;
- 后果主义:ASI 可能毁灭人类,但也可能带来乌托邦,是 +EV 赌注;
- 自利:和有趣的朋友做酷技术、赚大钱,不想宏观问题。
她指出,没人是为了营销而炒作风险——人们真的相信自己说的话,同时又能进行高度的自我合理化与心理区隔。
被引用的 ScholarsStage 补充了一个少被言明的动机:对许多人来说,这份工作填补了意义感的空缺——成为历史关键时刻的少数决定者,日常琐事都被赋予宇宙级意义,情绪结构上酷似过往的革命者。
所属事件:明知灭绝风险仍留在 AI 实验室的三种理由(3 条相关)→
「漫话AGI」频道最新
- AI Safety 老兵：每个末日论者起步都是技术乐观派 — menhguin · 2026-09-10
- 网友：短 AGI 时间表里多少是判断，多少是焦虑症？ — menhguin · 2026-09-10
- 约 300 个神经元造出「人造大脑原语」,不走缩放路线 — chris_j_paxton · 2026-09-10
- ML 硕士质疑「LLM 超智能临近论」：意识原理都没搞清 — TheMoonMidas · 2026-09-10
- 安全问题之外，也应该谈谈「AI 走向美好」的概率 — TheMoonMidas · 2026-09-10
- 一句话点评:护栏教模型别信你,过滤器教它别信自己 — PierceLilholt · 2026-09-10