还在实验室加速训练的人,p(doom) 真的可能接近零吗
anpaure · x · 2026-09-21
有人质疑:如果你认为 AI 灭绝概率 p(doom) 大于零,为什么还愿意在实验室参与研究、数据与训练的加速?发帖人推测,大部分在实验室做前沿训练的人实际 p(doom) 接近零,只是没有公开说出来。
回复者 @anpaure 补充了从业者不辞职的三种解释:
- 人天生倾向动机性推理(motivated reasoning)
- "我一个人的辞职对边际影响几乎为零,不如留下"
- 即使是"不在乎"的人,多数 p(doom) 也仍在 0.1%–10% 区间,有人干脆认为这是值得承担的权衡
所属事件:若真忧 AI 灭绝为何还加速研发引热议(6 条相关)→
「漫话AGI」频道最新
- 从 Anthropic 辞职潮到 10% 灭绝风险：西语长文梳理「为何惧怕 AI」 — Jsevillamol · 2026-09-21
- Dietterich:数十年自动化经验表明自主系统离不开人类监督 — JessicaHullman · 2026-09-21
- AI 全面超越人类在即，「大适应期」社会心理阵痛论引热议 — Dr_Singularity · 2026-09-21
- 数学家 littmath 谈 AI 生成的 PDF：发布无妨，冒充理解即学术不端 — littmath · 2026-09-21
- 独立游戏开发者为何最反 AI?Reddit 争论小团队用 AI 做原型是否正当 — Artakwa · 2026-09-21
- AI 建设热潮反而压制通胀?评论者批美联储以巨头投资为借口忽视实体经济 — McDonaghMatthew · 2026-09-21