对齐研究员:若无减速或暂停,p(doom)>0.1
ArthurConmy · x · 2026-09-23
可解释性研究员 Arthur Conmy 表态：如果不放慢或暂停能力发展，他认为灭绝风险概率超过 10%。
他的核心论点是：对齐领域其实已有大量「ready to go」的具体任务，但失败模式太多且难以全部预测和阻止——这才是对齐进度落后于能力进步的关键原因。
所属事件:对齐研究员：不减速 AI，灭绝风险超 10%(2 条相关)→
「漫话AGI」频道最新
- Juan Benet播客书单:《无穷的开始》《置换城市》等 — juanbenet · 2026-09-23
- 「减速论过时了」:新模型密集发布,曲线加速向上 — Dr_Singularity · 2026-09-23
- Palantir 联创 Joe Lonsdale：AI 繁荣延续，2030 年代人人暴富 — Polymarket · 2026-09-23
- goodside 反思:实验室呼吁放缓前沿,动摇了反暂停立场 — goodside · 2026-09-23
- Robinhood CEO 预测：AI 会让律师和程序员更多而非更少 — PeterDiamandis · 2026-09-23
- NumPy 作者类比 AI：共享抽象才能避免被「收租」锁定 — teoliphant · 2026-09-23