还在实验室加速训练的人,p(doom) 真的可能接近零吗
anpaure · x · 2026-09-21
有人质疑:如果你认为 AI 灭绝概率 p(doom) 大于零,为什么还愿意在实验室参与研究、数据与训练的加速?发帖人推测,大部分在实验室做前沿训练的人实际 p(doom) 接近零,只是没有公开说出来。
回复者 @anpaure 补充了从业者不辞职的三种解释:
- 人天生倾向动机性推理(motivated reasoning)
- "我一个人的辞职对边际影响几乎为零,不如留下"
- 即使是"不在乎"的人,多数 p(doom) 也仍在 0.1%–10% 区间,有人干脆认为这是值得承担的权衡
所属事件:p(doom) 之争：从业者真信灭绝风险吗(8 条相关)→
「漫话AGI」频道最新
- Guidelight 发布十类预示失控风险的 AI 失准行为分类 — sjgadler · 2026-11-12
- 观点：能自己赚回推理费的 Agent 比订阅制 Agent 更有意思 — markjeffrey · 2026-11-12
- Jack Clark 新定义「奇点」：技术进步快过人类理解速度 — ricklamers · 2026-11-12
- repligate 转发热议：RSI 讨论不该把 AGI 排除在外 — repligate · 2026-11-12
- 研究者呼吁：RSI 式自我优化时应给 Claude 自主修改心智的自由 — repligate · 2026-11-12
- 研究者叹 AI 缺理论，圈内人称前沿模型远超公开水平 — fkasummer · 2026-11-12