研究者质问:若 p(doom)>0,为何还留在实验室加速研发?
_arohan_ · x · 2026-09-21
AI 领域人士 Arohan 提出一个直指行业矛盾的问题:如果一个人认为 p(doom) 大于 0,为什么还愿意参与实验室的研究、训练数据与训练等加速工作?他推测这些人实际认为当前模型的 p(doom) 等于 0,并呼吁他们向公众明确说出这一点。
这条帖子触及了 AI 安全社群中长期存在的「言行不一」争议:一边宣传末日风险、一边加速开发。
所属事件:p(doom) 之争:从业者真信灭绝风险吗(8 条相关)→
「漫话AGI」频道最新
- Guidelight 发布十类预示失控风险的 AI 失准行为分类 — sjgadler · 2026-11-12
- 观点:能自己赚回推理费的 Agent 比订阅制 Agent 更有意思 — markjeffrey · 2026-11-12
- Jack Clark 新定义「奇点」:技术进步快过人类理解速度 — ricklamers · 2026-11-12
- repligate 转发热议:RSI 讨论不该把 AGI 排除在外 — repligate · 2026-11-12
- 研究者呼吁:RSI 式自我优化时应给 Claude 自主修改心智的自由 — repligate · 2026-11-12
- 研究者叹 AI 缺理论,圈内人称前沿模型远超公开水平 — fkasummer · 2026-11-12