Dario 发文呼吁给前沿 AI 降速，前 OpenAI 安全高管回应：p(doom) 是内生的
soumitrashukla9 · x · 2026-09-14
Anthropic CEO Dario Amodei 发表新文章《We Must Pace the Frontier》，主张 AI 行业应当放慢速度，并提出三步计划；Anthropic 单方面承诺第一步：向第三方评估机构提供永久的员工级系统访问权限，以核验安全措施、报告事故、在训练期间评估模型对齐。
前 OpenAI 安全高管 Houda 引用该文回应：
- 她如今对 AI 存亡风险的担忧反而低于 2022 年，尽管模型能力已大幅提升；因为当时最大的不确定性——前沿实验室是否会随能力扩张认真投入对齐——这几年已实质性转好。
- 她认为 p(doom) 常被误谈：它不是等待测量的外生常数，而是内生的——灾难概率取决于实验室、政府、研究者和社会的实际作为，脱离这些假设谈数字没有意义。
- 她相信 AI 的期望收益远大于成本，但前提是「我们把它做对」。
所属事件:Dario Amodei 发文呼吁前沿 AI 集体减速(193 条相关)→
「漫话AGI」频道最新
- 正交性论题之争:安全派与加速派的根本分歧在哪 — EigenGender · 2026-09-14
- Anthropic 研究员因 AI 风险公开离职,四大公司内部激辩末日风险 — RebeccaBellan · 2026-09-14
- AI 对齐辩论：多数可能的 AI 对人类冷漠，冷漠在极限下致命 — EigenGender · 2026-09-14
- 报道被指失实：当事人并未「拒绝放缓 AI」，反而认同护栏 — tszzl · 2026-09-14
- C. Thi Nguyen 论「价值捕获」：量化指标正在替换我们的真实价值 — round · 2026-09-14
- 《Obsolete》9月29日出版:AI 万亿美元取代人类竞赛的批判之作 — GarrisonLovely · 2026-09-14