Dario Amodei 发文呼吁 AI 行业「控制前沿节奏」,附三步减速方案
scottleibrand · x · 2026-09-13
Anthropic CEO Dario Amodei 发布新文 《We Must Pace the Frontier》,主张 AI 行业应主动放慢:
- 提出一套三步走计划说明行业为何以及如何减速
- Anthropic 单方面承诺第一步:向第三方评估机构提供永久性的员工级系统访问权限,以便其验证安全措施执行、报告事故、在训练过程中评估模型对齐
- 转发者 an1lam 写了长评:自己十年前从 LessWrong 开始关注 AI 存续风险,GPT-3 时代确信 scaling 有效后担忧持续加深;并自述因「为未来站台」的信念而放弃科技职业、转向 AI for Bio 方向
这是前沿实验室首次公开承诺接受嵌入式第三方评估,行业安全讨论的重要节点。
所属事件:Anthropic CEO 发长文呼吁统一放慢前沿 AI 发展(65 条相关)→
「漫话AGI」频道最新
- Chamath 指控 Dario 借「降速」打压开源，e/acc 大 V 火力反击 — markjeffrey · 2026-09-13
- David Patterson 反驳 ASI 灭亡论:智能不等于权力与欲望 — davidpattersonx · 2026-09-13
- 剑桥学者 Krueger 推荐 Katja Grace 灭绝风险播客,AI 风险入门佳选 — DavidSKrueger · 2026-09-13
- AI 安全学者 David Krueger 推荐 KatjaGrace 播客:了解 AI 灭绝风险的入门材料 — DavidSKrueger · 2026-09-13
- 没有不确定性的 AI 预测只有一半价值：科学机器学习的关键一课 — bravo_abad · 2026-09-13
- ML 用不优雅方案攻破五大领域,凭什么被指不该发生 — RexDouglass · 2026-09-13